11月起,地平线联合智猩猩策划推出地平线「你好,开发者」工具链技术专场,目前前两讲已完结。地平线工具链产品规划负责人秦畅、地平线工具链量化训练工具研发负责人屈树谦两位技术专家,分别以《如何打造“好用”的自动驾驶智能芯片算法工具链》、《地平线量化训练工具的设计与精度调优经验》为主题进行了直播讲解,累计收看人次11000+。
现如今神经网络模型的规模越来越大,深度、参数量指数级增长,对计算性能、存储和网络带宽要求也飞速提升。而将训练好的模型直接部署到自动驾驶车辆这类资源受限的设备上显然不太现实,往往需要通过压缩技术缩小模型尺寸,从而实现更低的功耗和更快的推理速度。量化则是目前工业界最常用的的模型压缩方法之一。
要实现高质量的量化并不容易,需要从模型准备、模型验证、量化策略、自定义算子量化的支持、量化性能与精度评估等多个维度进行综合考量。对于一款量化工具而言,需要能够帮助开发者在精度不损失或极少损失的情况下,高效、快速的完成上述操作,实现模型量化,加速模型部署和推理效率。
地平线天工开物算法工具链提供了量化感知训练(QAT)和训练后量化(PTQ)两种量化方式。在地平线「你好,开发者」工具链技术专场第2讲中,地平线工具链量化训练工具研发负责人屈树谦针对量化感知训练(QAT)进行了深入讲解。
12月6日19点,地平线联合智猩猩推出的新一期地平线「你好,开发者」工具链技术专场将开讲。此次专场聚焦地平线天工开物算法工具链提供的另一种量化方式——训练后量化(PTQ),由地平线模型转换和量化工具负责人何道远主讲,主题为《地平线模型转换与训练后量化部署》。
何道远首先会对模型转换进行介绍,之后讲解如何进行模型量化误差分析。接下来,他会重点讲解模型训练后量化,并对模型全整型量化进行解读。
专场内容
主题:地平线模型转换与训练后量化部署
提纲:
1、模型转换介绍
2、模型量化误差分析
3、模型训练后量化(PTQ)
4、模型全整型量化
主讲人
何道远,地平线工具链模型转换和量化工具负责人,毕业于浙江大学,十余年专注于神经网络模型加速优化。2019年加入地平线,负责工具链模型转换和量化部署,先后参与地平线征程3、征程5、征程6多代芯片和工具链的研发工作。
课程信息
直播时间:12月6日19:00
直播地点:智猩猩直播间