智东西（公众号：zhidxcom）
作者 | 韦世玮
编辑 | 心缘
智东西8月4日消息，近日，英特尔在AI计算盒主题分享会上与众多合作伙伴一起，分享了AI计算盒一系列最新落地成果。
同时，英特尔公司高级首席工程师、物联网事业部中国区首席技术官张宇博士，以及英特尔物联网事业部技术销售经理刘波等英特尔高管和技术专家，围绕AI计算盒的软硬件技术优势进行剖析，并分享了他们对边缘AI技术发展趋势的看法。
“人工智能的发展离不开计算、通讯、存储技术。”张宇谈道。同时他认为，边缘AI的发展分为三个阶段，目前我们还处于第一阶段，也就是边缘推理阶段，而自主学习是最终目标。
会后，张宇、刘波等英特尔高管和技术专家还与智东西等媒体进行了深入交流，在探讨英特尔AI计算盒过去一年创新应用的的同时，还分享了英特尔在边缘AI计算赛道的布局和规划。
▲英特尔公司高级首席工程师、物联网事业部中国区首席技术官张宇博士
一、AI计算盒：AI推理加速能力高达8倍，已落地数十个场景
何为英特尔AI计算盒？
简单来说，该方案融合了第11代英特尔酷睿处理器、OpenVINO工具套件、英特尔Media SDK等软硬件产品和技术，通过英特尔成熟的平台级能力，帮助各层面合作伙伴与最终用户加速边缘AI应用的开发和工程化落地。
而AI计算盒的诞生也与边缘人工智能的发展息息相关，尤其是细分的智能视频分析市场。相关行业预测数据，到2022年，智能视频分析市场的规模或将超过1800亿人民币，复合增长率为34%。
同时，智能视频分析解决方案也将在智慧城市、智能交通、智能制造、智慧零售等10余个领域得到广泛运用。
为了顺应智能视频分析市场强劲的增长态势，为行业提供发展所需的强大算力，英特尔在2020年就正式推出了AI计算盒参考设计，在基础算力、AI加速和软件栈配置等方面都有着不少优势。
基础算力层面，AI计算盒基于英特尔10nm SuperFin制程工艺，拥有更低的功耗设计，支持最新PCIe 4.0高速扩展接口，使得处理器的单线程处理能力提升23%，多线程处理能力提升19%，为智能视频分析提供强劲的算力支撑。
AI加速方面，通过集成英特尔锐炬Xe显卡、英特尔GNA 2.0神经加速器，以及面向深度学习优化的VNNI指令集等，AI计算盒可获得高达8倍的AI推理加速能力。
在软件栈配置上，英特尔Media SDK通过统一的API访问接口、优化的媒体库访问，能够让AI计算盒提升视频播放、编解码以及格式转换效率，获得实时4K视频通信所需的60 FPS HEVC视频编解码能力。
同时，AI计算盒所集成的英特尔OpenVINO工具套件，能够有效支持从边缘到云端的深度学习推理。
基于AI计算盒的一系列技术创新和设计，英特尔已和各行业合作伙伴共同构建了面向各垂直领域的端到端解决方案，覆盖智能支付、智能停车、智慧社区、智慧楼宇、智能VDD、智能会议等数十个场景。
尤其是面向智慧城市和智慧生活场景，英特尔联合智芯原动、趋视科技、开域集团、中科创达、小钴科技等公司打造的AIoT解决方案，已实现全面落地。
二、张宇：自主学习是边缘AI的最终阶段
分享会现场，英特尔公司高级首席工程师、物联网事业部中国区首席技术官张宇博士还围绕AI浪潮的发展，谈了他对边缘AI发展趋势的看法和未来展望。
在他看来，推动本轮AI高潮的核心因素主要涉及算力和数据两个方面。
算力方面，当1994年全球超级五百强算力榜单第一次公布时，排名第一的超级计算机的每秒浮点运算峰值速度达到了13000/次。而在今年的榜单上，这个数字已经达到了53亿亿次。
“在摩尔定律的推动下，算力得到了极大提升，能够帮助我们在更短时间内完成网络模型的训练，或处理更加复杂的AI网络系统。”在张宇看来，这可以拉近AI技术与商业诉求的距离，推动AI技术落地。
数据方面，“现在AI是离不开数据的，不然得不到好的结构。”张宇提到，以Lecunet为例，普通的开放数据池中包含了超过1400万兆经过标注的图片，利用这些图片，算法开发人员可以进行图像分类的识别，而这些图片数据增加的背后，实际上是基于通讯技术与存储技术的不断提升。
“人工智能的发展离不开计算、通讯、存储技术。”他说。
此外，张宇还谈到了边缘AI发展的三个阶段，一是边缘推理，二是边缘训练，三是自主学习。
他提到，AI技术已经在越来越多的边缘计算领域得到了普及，比如工业互联网领域会用AI技术做产品缺陷检测。不过，目前大多数的运作模式是，利用数据中心的算力和大量AI数据来训练网络模型，再把模型推送到边缘端进行推理。
现阶段，由于边缘AI更多的模式是在边缘推动，边缘推理实现起来就较为容易些。
但张宇认为，边缘设备的算力和存储都是有限的，让边缘设备做边缘推理尽管合理，但也有一定的弊端，那就是模型的更新会受到限制。“因为模型的更新是由数据中心控制的，不可能随时随地为新进的数据更新。”他说。
同时在一些使用场景对模型更新频率的要求较高，需要对模型不断进行动态训练和更新。因此在今后的AI发展过程中，边缘训练是必然的发展趋势。
“边缘训练是AI在边缘发展的第二个阶段，但不是最终阶段。”张宇谈道，因为在当下的AI技术中，人依然扮演着重要角色，并不是完全的人工智能化。
他解释，虽然现在可以用极大的算力和大量数据训练一个网络系统，但网络模型的结构需要人提前设计，在这个过程中，人的许多意识已经嵌入到模型中，陷入到模型的使用场景和范围。
“展望五年、十年以后的边缘计算和AI物联网的发展，一定会有自主的发展。”张宇描绘了这幅画面——系统会自主化决定应该选择模型、策略、算法，会自动收集数据训练模型，把训练的结果用于实际系统。
“最终一定是自主化的过程，也就是业界说的OpenPose技术将在业界普及。”张宇说，这一阶段也是边缘AI发展的最高阶段。
三、新技术路线图为AI计算盒提供持续动力
正如张宇所说，人工智能的发展离不开计算、通讯技术、存储的不断提升。而英特尔作为一家领先的半导体公司，其产品也恰恰涵盖了通讯、计算、存储行业。
在计算方面，英特尔开发的CPU、GPU、FPGA不同的产品组合，能满足用户对计算不同的需求。
在5G基础设施方面，英特尔推出了一系列软硬件产品，包括基于英特尔架构并用于5G无线基站的SO芯片，可以实现从通讯的核心网到网络边缘的复用，极大降低开发门槛，加速软件开发速度。
在存储方面，英特尔还拥有Optane技术，能大大提升闪存的读写速度，提高存储能力。
“总之，英特尔所提供的是一个端到端的人工智能解决方案，通过将5G、AI、智能边缘三者的融合，将边缘计算、人工智能推向新的发展方向，这是我们大的思路和大的战略。”张宇说。
▲从左到右分别为趋视科技事业部副总经理夏晶，英特尔物联网事业部技术销售经理刘波，英特尔公司高级首席工程师、物联网事业部中国区首席技术官张宇，开域集团数字科技负责人应翔翔
在会后与智东西等少数媒体的交流中，英特尔物联网事业部技术销售经理刘波也向大家分享了英特尔AI计算盒在过去一年的软硬件创新。
他谈道，在过去一年多的时间里，英特尔AI计算盒经历了几方面的创新。例如，芯片平台从上一代的Whiskey Lake更新到了Tiger Lake，其中Tiger Lake与上一代相比性能有了较大提升。
“一是在CPU侧引入了向量指令集，二是在GPU方面，Tiger Lake的EU个数最低为48，而Whiskey Lake为24个EU，i7是96个EU。”刘波说，这样AI性能、媒体编解码性能都会有大幅提升。
同时在算法生态方面，今年英特尔在零售、工业、智慧社区算法合作伙伴的基础上，又引入了其他几个算法领域的合作伙伴，从以往“打点”的形式变成“打面”，以此更好地服务更多客户。
另一方面，基于张宇在演讲中谈到的“自主边缘计算是边缘AI发展的最高阶段”，英特尔目前在这方面有何布局？
“算力方面，AI到了自主学习后对算力的要求会更高，同时也对数据处理的方法提出新挑战。”张宇解释，尤其在边缘AI方面，如何做数据标注等都是有别于数据中心的学习特点。
在这个方向上，英特尔一直在做相关工作，针对数据标注不断地扩充英特尔软件方面的能力，这些能力也将体现在以后的版本中。
与此同时，英特尔提供了SPU算力战略，包括CPU、GPU、FPGA、AI加速芯片VPU等产品组合，芯片不同的架构也在不断迭代，还区别于不同的芯片工艺。
“昨天，我们发布了今后几年英特尔非常清晰的工艺路线图，我们会更多地利用最新技术帮助客户提供更新一代的产品，这些产品不仅可以满足用户对算力的要求，同时也是异构的。”张宇谈道。
英特尔可以通过封装技术将不同模块整合在一起，满足异构的计算平台，满足用户对算力和功能的多样化需求。“这些都是为我们今后实现自主学习提供坚实的物质基础。”他说。
那么，英特尔最近公布的新制程工艺和封装技术路线图，将会给AI计算盒带来多大的提升？
“第11代的Tiger Lake处理器和第10代相比，EU数量增加了三倍，整体媒体编解码能力和AI推理能力得到了相应倍数的提升。”张宇提到。
在后续的产品里，AI计算盒的集成显卡都将采用Xe架构，与独立显卡架构一致。“这样就保证我们可以通过类似的软件接口，能让用户的AI网络模型在集成显卡、独立显卡，甚至在不同CPU和AI加速芯片之间进行迁移，带来极大的编程易用性。”他说。
结语：英特尔助力边缘AI应用生态落地发展
随着5G、物联网、云计算、边缘计算等技术的发展，给我国新基建带来了重要的变革力量。其中，AI技术作为其中的核心技术引擎，也在持续推动多种技术向各个行业赛道的融合发展。
英特尔作为一家全球科技巨头企业，其领先的软硬件技术也为各行各业的AI生态建设提供了不可小觑的力量。未来，我们也期待英特尔能够和更多合作伙伴一起，为共同推动边缘AI应用向更多领域落地，实现行业智能化成熟发展。
