智东西(公众号:zhidxcom)
文 | 轩窗
智东西9月14日消息，今天全球芯片架构IP授权商Arm在上海举办人工智能开发者峰会。会上，Arm中国、瑞芯微以及OPEN AI LAB联合发布了，面向开发者教育的嵌入式人工智能应用开发平台EAIDK (Embedded AI Development Kit)，连接芯片、算法到应用。同时，Arm今天也宣布推出第一块用于AI/ML的开发板卡EAIDK-610。
此外，Arm中国也表示，正在开展AI大学教育和开发者节计划，首批有南京大学、浙江大学、武汉大学和上海理工大学四所高校。
一、软硬件一体化开发套件EAIDK
安谋科技（中国）副总裁金勇斌表示，过去26年里，基于Arm架构的芯片市场份额达到了一千亿台，而随着AI技术的发展，冲上下一个一千亿的时间将会从26年压缩到4年，到2020年左右可以达到。
不过，随着IoT x AI=AIoT的时代到来，终端设备应用开发生态，虽然存在着，差异化、场景化和普及化的市场机会，但也存在着碎片化、定制化和入门难的挑战。
比如，有芯片和应用场景的开发者缺少算法和平台、有算法的开发者缺少好的嵌入式跨平台框架、有算法和硬件平台的开发者则找不到算力优良的嵌入式平台。
为此，Arm联合OPEN AI LAB、瑞芯微推出嵌入式AI开发安全套件EAIDK(Embedded AI Development Kit)，包含硬件平台、嵌入式人工智能平台、人工智能算法以及应用软件的一体化开发平台。
金勇斌告诉智东西，从今年4月份开始，Arm就有了此套方案的构想，今天则推出第一块开发板卡EAIDK-610。
硬件方面，EAIDK-610基于瑞芯微RK3399芯片，同期也推出了不少配件，包括嵌入式可编程接口板、高清相机模组、4K相机模组、以及MIPI接口和eDP接口的显示触摸一体化屏等选件。
软件层面，EAIDK搭载了OPEN AI LAB的核心AI开发平台AID，包含支持异构计算的嵌入式深度学习推理加速引擎Tengine、计算库HCL、ML/DL视觉/语音算法库，为AI应用开发者提供简洁、高效、统一的API接口。
二、神经网络推理引擎Tengine
Tengine是一款轻量级模块化高性能的神经网络推理引擎，专门针对Arm嵌入式设备优化，支持Arm Cortex CPU、Arm Mali GPU、Arm DLA以及第三方DSP。开发者可以使用Tengine在主流框架模型和嵌入式操作系统间切换，还能异构调度平台里的各类硬件，充分利用硬件算力。
此外，Tengine还提供了常见AI应用算法，包括图像检测，人脸识别，语音识别等。Tengine同时还支持各类常见卷积神经网络，包括SqueezeNet，MobileNet，AlexNet，ResNet等，支持层融合、8位量化等优化策略，并且通过调用针对不同CPU微构架优化的HCL库，将Arm CPU的性能充分挖掘出来。
在Tengine框架中，HCL计算库将作为其一个插件，是性能最快的Arm CPU NN计算库，并且支持动态8位量化计算，精度几乎不变，相比于NCNN最快能带来2-3倍的性能提升，内存使用减少为三分之一。
Tengine不仅对上层应用提供推理API接口，支持主流模型与格式，还在下层定义硬件接口，适配嵌入式平台各类计算模块，支持同时运行多个AI应用算法以及调用多个计算模块计算。
Tengine可以使应用和算法厂商摆脱复杂的嵌入式平台适配工作，配合HCL直接挖掘硬件的潜能，芯片厂商可以利用它以最快速度开发芯片，并将其应用于边缘AI应用中。
三、投身AI开发者教育的Arm
作为全球芯片架构IP授权商，ARM的芯片架构代号在业内耳熟能祥，如去年推出的 CPU架构Cortex-A76。
目前，ARM在全球拥有3家设计团队，分别是位于美国德州的奥斯丁团队、位于法国南部的索菲亚团队以及位于英国大本营的剑桥团队。
今年4月ARM在中国成立合资公司——安谋科技（中国），中方投资者占股51%，ARM占股49%，接管ARM在国内的所有业务。安谋科技（中国）商务副总裁刘润国表示，Arm看好中国的产业链、生态和资本优势，未来将开发出符合中国产业的IP方案。
Arm公司机器学习市场开发总监John Kourentis认为AI正在无处不在，并且正在向着终端移动，宽带、电力、支付、驾驶、安全等领域。
2017年初，Arm曾经推出了一套全新芯片架构技术DynamIQ，不仅采用了新的指令集，专门针对人工智能进行了优化；而且同时可容纳8个核，并且提高了芯片架构的灵活性，支持大小核的灵活配置。
今年3月，ARM推出了一套全新的Mali多媒体IP套件，适用于手机、平板、电视等终端。
目前，Arm中国正在开展AI大学教育和开发者节计划，首批有四家高校：南京大学、浙江大学、武汉大学和上海理工大学。此外，金勇斌也说到，Arm此前在中国已与500所高校建立了直接联系。
结语：Arm正在积极拥抱端智能
Arm是智能设备第一大主流芯片架构提供商，全球有超过90%的智能设备采用了其芯片架构。随着深度学习在终端设备上的应用，端智能时代已经逐步到来。在此之时，Arm也开始不遗余力地推动端智能时代的发展。
从今年开始，Arm先是通过优化芯片GPU性能，使中低端设备更容易切入端智能，将AI能力推向平民化。在底层硬件打完基础后，今天Arm将目光聚焦到了应用开发者的身上。
无论是在中国建立合资公司，还是积极与中国的产业链以及开发者互动，我们都可以看出Arm已将端智能发展作为一项重要的战略，正在积极拥抱端智能。而在Arm的积极入局后，终端领域的AI应用开发也将进入全面平民化的前夜。
