11月8日,地平线联合智猩猩策划推出的地平线「你好,开发者」工具链技术专场第一讲顺利完结。地平线工具链产品规划负责人秦畅以《如何打造“好用”的自动驾驶智能芯片算法工具链》为主题,从什么是算法工具链、自动驾驶智能芯片算法工具链解决的关键问题、地平线在解决这些关键问题上的工作实践,以及工具链的未来演进趋势等方面进行了直播讲解,累计收看人次6000+。
量化工具作为算法工具链的重要一环,能够在损失少量精度的前提下,将模型的权重、激活值等网络参数从高精度的32位浮点型量化为float16、int8、int4等更低位数,压缩模型大小,降低内存占用,实现更低的功耗和更快的推理速度,使其更容易部署到算力有限且对功耗敏感的智能驾驶车辆上。因此,一个优秀的量化工具将是决定自动驾驶智能芯片算法工具链是否好用的关键因素之一。
一款优秀的量化工具不仅要能够支持复杂多变的模型结构、尽可能降低量化精度损失,还要能够灵活可扩展地适配目标硬件平台和不同深度学习框架。当然,更离不开大量的应用场景模型量化实践的打磨。由此可见,要打造一个优秀的量化工具并非易事。
地平线的天工开物算法工具链提供了量化感知训练(QAT)和训练后量化(PTQ)两种方式,能够有效缩减模型大小,加速推理效率,帮助开发者提升计算效能。那么地平线在量化工具的设计方面有哪些独到之处呢?
11月22日19点,地平线联合智猩猩策划推出新一期地平线「你好,开发者」工具链技术专场,由地平线工具链量化训练工具研发负责人屈树谦主讲,主题为《地平线量化训练工具的设计与精度调优经验》。
屈树谦老师首先会介绍量化训练技术,并对量化训练工具面临的挑战进行分析。之后,屈树谦老师将结合实践重点讲解地平线量化训练工具的框架设计和精度调优经验,以及量化训练工具的未来探索方向。
专场内容
主题:地平线量化训练工具的设计与精度调优经验
提纲:
1、量化训练技术简介
2、量化训练工具面临的挑战
3、地平线工具的框架设计和精度调优经验
4、量化训练工具的未来探索方向
主讲人
屈树谦,地平线工具链量化训练工具研发负责人,2016年加入地平线,负责工具链中量化训练工具和地平线算法包的研发。
课程信息
直播时间:11月22日19:00
直播地点:智猩猩直播间