芯片巨头Arm推AI开发全套件,联合四大学降低AI门槛

智东西(公众号:zhidxcom)
文 | 轩窗

智东西9月14日消息,今天全球芯片架构IP授权商Arm在上海举办人工智能开发者峰会。会上,Arm中国、瑞芯微以及OPEN AI LAB联合发布了,面向开发者教育的嵌入式人工智能应用开发平台EAIDK (Embedded AI Development Kit),连接芯片、算法到应用。同时,Arm今天也宣布推出第一块用于AI/ML的开发板卡EAIDK-610。

此外,Arm中国也表示,正在开展AI大学教育和开发者节计划,首批有南京大学、浙江大学、武汉大学和上海理工大学四所高校。

一、软硬件一体化开发套件EAIDK

安谋科技(中国)副总裁金勇斌表示,过去26年里,基于Arm架构的芯片市场份额达到了一千亿台,而随着AI技术的发展,冲上下一个一千亿的时间将会从26年压缩到4年,到2020年左右可以达到。

不过,随着IoT x AI=AIoT的时代到来,终端设备应用开发生态,虽然存在着,差异化、场景化和普及化的市场机会,但也存在着碎片化、定制化和入门难的挑战。

比如,有芯片和应用场景的开发者缺少算法和平台、有算法的开发者缺少好的嵌入式跨平台框架、有算法和硬件平台的开发者则找不到算力优良的嵌入式平台。

芯片巨头Arm推AI开发全套件,联合四大学降低AI门槛

为此,Arm联合OPEN AI LAB、瑞芯微推出嵌入式AI开发安全套件EAIDK(Embedded AI Development Kit),包含硬件平台、嵌入式人工智能平台、人工智能算法以及应用软件的一体化开发平台。

芯片巨头Arm推AI开发全套件,联合四大学降低AI门槛

金勇斌告诉智东西,从今年4月份开始,Arm就有了此套方案的构想,今天则推出第一块开发板卡EAIDK-610。

芯片巨头Arm推AI开发全套件,联合四大学降低AI门槛

硬件方面,EAIDK-610基于瑞芯微RK3399芯片,同期也推出了不少配件,包括嵌入式可编程接口板、高清相机模组、4K相机模组、以及MIPI接口和eDP接口的显示触摸一体化屏等选件。

软件层面,EAIDK搭载了OPEN AI LAB的核心AI开发平台AID,包含支持异构计算的嵌入式深度学习推理加速引擎Tengine、计算库HCL、ML/DL视觉/语音算法库,为AI应用开发者提供简洁、高效、统一的API接口。

二、神经网络推理引擎Tengine

Tengine是一款轻量级模块化高性能的神经网络推理引擎,专门针对Arm嵌入式设备优化,支持Arm Cortex CPU、Arm Mali GPU、Arm DLA以及第三方DSP。开发者可以使用Tengine在主流框架模型和嵌入式操作系统间切换,还能异构调度平台里的各类硬件,充分利用硬件算力。

此外,Tengine还提供了常见AI应用算法,包括图像检测,人脸识别,语音识别等。Tengine同时还支持各类常见卷积神经网络,包括SqueezeNet,MobileNet,AlexNet,ResNet等,支持层融合、8位量化等优化策略,并且通过调用针对不同CPU微构架优化的HCL库,将Arm CPU的性能充分挖掘出来。

在Tengine框架中,HCL计算库将作为其一个插件,是性能最快的Arm CPU NN计算库,并且支持动态8位量化计算,精度几乎不变,相比于NCNN最快能带来2-3倍的性能提升,内存使用减少为三分之一。

Tengine不仅对上层应用提供推理API接口,支持主流模型与格式,还在下层定义硬件接口,适配嵌入式平台各类计算模块,支持同时运行多个AI应用算法以及调用多个计算模块计算。

Tengine可以使应用和算法厂商摆脱复杂的嵌入式平台适配工作,配合HCL直接挖掘硬件的潜能,芯片厂商可以利用它以最快速度开发芯片,并将其应用于边缘AI应用中。

三、投身AI开发者教育的Arm

作为全球芯片架构IP授权商,ARM的芯片架构代号在业内耳熟能祥,如去年推出的 CPU架构Cortex-A76。

目前,ARM在全球拥有3家设计团队,分别是位于美国德州的奥斯丁团队、位于法国南部的索菲亚团队以及位于英国大本营的剑桥团队。

今年4月ARM在中国成立合资公司——安谋科技(中国),中方投资者占股51%,ARM占股49%,接管ARM在国内的所有业务。安谋科技(中国)商务副总裁刘润国表示,Arm看好中国的产业链、生态和资本优势,未来将开发出符合中国产业的IP方案。

Arm公司机器学习市场开发总监John Kourentis认为AI正在无处不在,并且正在向着终端移动,宽带、电力、支付、驾驶、安全等领域。

2017年初,Arm曾经推出了一套全新芯片架构技术DynamIQ,不仅采用了新的指令集,专门针对人工智能进行了优化;而且同时可容纳8个核,并且提高了芯片架构的灵活性,支持大小核的灵活配置。

今年3月,ARM推出了一套全新的Mali多媒体IP套件,适用于手机、平板、电视等终端。

目前,Arm中国正在开展AI大学教育和开发者节计划,首批有四家高校:南京大学、浙江大学、武汉大学和上海理工大学。此外,金勇斌也说到,Arm此前在中国已与500所高校建立了直接联系。

结语:Arm正在积极拥抱端智能

Arm是智能设备第一大主流芯片架构提供商,全球有超过90%的智能设备采用了其芯片架构。随着深度学习在终端设备上的应用,端智能时代已经逐步到来。在此之时,Arm也开始不遗余力地推动端智能时代的发展。

从今年开始,Arm先是通过优化芯片GPU性能,使中低端设备更容易切入端智能,将AI能力推向平民化。在底层硬件打完基础后,今天Arm将目光聚焦到了应用开发者的身上。

无论是在中国建立合资公司,还是积极与中国的产业链以及开发者互动,我们都可以看出Arm已将端智能发展作为一项重要的战略,正在积极拥抱端智能。而在Arm的积极入局后,终端领域的AI应用开发也将进入全面平民化的前夜。

芯片巨头Arm推AI开发全套件,联合四大学降低AI门槛