智东西(公众号: zhidxcom)
文 | 心缘

智东西7月11日消息,英特尔人工智能大会(AIDC)深圳站在深圳举行,现场分享了英特尔的AI战略,并详解英特尔的硬件+软件+生态活动组合。

活动期间还穿插着硬核的动手实操环节,让开发者现场直接体验英特尔神经计算棒2,只需通过USB插口插到笔记本电脑,就能直观感受到计算棒所带来的本地深度学习处理加速。

一、英特尔的“软硬件+生态”AI组合

英特尔的AI战略围绕“硬件+软件+生态合作”展开。

英特尔AIDC秀肌肉:展示AI软硬件+生态全景图

硬件方面,交付最佳AI平台,包括扩展CPU、最完整的产品组合和集成度最好的平台,从终端、边缘到云端都通过统一架构串联。

软件方面,塑造开源软件堆栈,在行业竞争中取胜,包括优化客户软件(比如优化TensorFlow等深度学习框架)、构建统一的API和向开发人员宣传。

生态方面,培育生态系统并推动其发展,包括培养新兴用例、吸引和培养顶尖人才,并引领AI发展前沿。

二、英特尔的AI硬件组合

英特尔提供覆盖云、边、端的丰富AI硬件选择。

英特尔AIDC秀肌肉:展示AI软硬件+生态全景图

在云端,英特尔至强可扩展CPU为主流的深度学习推理硬件选择,在部署便利性、精度和成本都适用于AI实践。

比如今年4月英特尔新发布的第二代至强可扩展处理器(Cascade),对INT8卷积进一步提升,最新Cascade至强CPU相比上一代CPU理论性能提升3倍。

英特尔AIDC秀肌肉:展示AI软硬件+生态全景图

对于特殊的应用场景,英特尔提供面向自动驾驶的Mobileye、面向低功耗视频图像分析的Movidius VPU、面向延时性要求高的FPGA系列产品。

对于计算要求高的场景,英特尔将在今年下半年提供2款Nervana神经网络处理(NNP),分别用于高效的深度学习训练和推理。

另外,英特尔还提供神经计算棒2,它采用USB记忆棒的外形,能在设备上实现本地实时推理,无需连接云端,相比Myriad 2视觉处理单元将性能提升高达8倍。

Facebook汇总了针对不同应用场景使用的不同硬件资源,他们的翻译、照片文本生成、垃圾邮件标记、语音等服务的AI推理都是基于CPU实现的。

英特尔AIDC秀肌肉:展示AI软硬件+生态全景图

三、英特尔的AI软件组合

AI软件是英特尔近些年重点优化之处,从机器学习到深度学习,英特尔为开发者提供任意AI实现方式。

英特尔AIDC秀肌肉:展示AI软硬件+生态全景图

最下层是贴近硬件和指令集的内核部分,英特尔通过针对机器学习优化的Distribution Python、高性能机器学习和数据分析库DAAL、数学核心函数库MKL-DNN将底层硬件的性能更大程度的发挥出来。

英特尔MKL-DNN是面向深度学习神经网络的开源数学核心函数库,提供所有英特尔硬件中的常见DNN API和快速的发布周期,与DL社区迭代,通过高度矢量化和线程化,实现更高性能。

库这一层主要面向数据科学家,英特尔对CNTK、PaddlePaddle等主流框架优化,通过扩展、矢量化、利用所有内核、高效内存和缓存使用,通过下面的内核层将底层算力资源发挥出来。

另外,英特尔还自己打造了面向Apach Spark的高性能深度学习框架BigDL,和TensorFlow平级,主要针对大数据处理。

面向应用程序开发人员,英特尔提供面向Analytics Zoo、OpenVINO深度学习部署推理等工具套件。

Analytics Zoo同样面向Apache Spark,不过它比BigDL更高一层级,是一套统一分析+AI平台,可提供端到端的解决方案。

OpenVINO工具包是针对深度学习应用推理场景开发的开源工具,考虑到部署模型时框架来源不同、硬件平台多样的特点,提供模型优化器、推理引擎等统一软件工具,可无缝衔接上层软件和底层硬件。

四、英特尔的AI社区资源

英特尔AI学院提供大量材料、培训教程以及实验室案例,学生们可以在AI社区在线分享工业和学术案例,AI学院的学生们至少可获得4周免费使用AI DevCloud云开发环境的时间。

AI DevCloud中内置了英特尔优化的Caffe、TensorFlow框架,Caffe框架不仅比原先性能更高,还能做分布式优化推理,因此学生们不需要额外安装这些工具。

英特尔AIDC秀肌肉:展示AI软硬件+生态全景图

DevCloud提供主要提供2种使用方式。第一种方式通过网页版方式提交代码运行,这种方式的局限性是每个程序运行不超过4个小时。另一种方式是通过服务器的方式, 最长能运行24小时,同时性能更强劲。

英特尔AIDC秀肌肉:展示AI软硬件+生态全景图

结语:英特尔的全局AI生态

在英特尔AIDC开发者大会中,我们看到英特尔如何通过人工智能创建者项目,为企业和开发者提供软硬件技术支持,从而打造全面稳定的AI生态。

今天下午,我们还将与英特尔人工智能构建者计划的两家产业界参与者进行深入交流,了解英特尔如何为他们提供软硬件技术支持,帮助他们快速将产品推向市场。