智东西(公众号:zhidxcom)
文 | 司北

3月15日,由智东西主办,AWE和极果联合主办的AI芯片创新峰会,在上海成功举办!本次峰会报名参会的观众覆盖了近4500家企业,到会观众极为专业,其中总监以上级别占比超过62%,现场实际到会人数超过1800位。

大会现场,20位人工智能及AI芯片业界翘楚共聚一堂,系统的探讨了AI芯片在架构创新、生态构建、场景落地等方面的技术前景和产业趋势。

高通李维兴:骁龙855 5G终端超30款,成立高通AI Research | GTIC2019

▲高通公司技术副总裁李维兴

在去年12月5日年度骁龙技术峰会上,高通发布了自家首款手机AI芯片骁龙855,它首次集成了独立的AI硬件处理模块Tensor Accelerator,并在第四代人工智能引擎AI Engine的配合下让骁龙855的AI算力飙升到每秒7TOPs。

在去年的AI芯片峰会上,高通公司技术副总裁李维兴首次在中国介绍了人工智能引擎AI Engine。今天,李维兴再次登上了GTIC 2019的舞台,带来了主题为《加速终端侧AI的未来》的演讲,从5G与AI相结合的角度阐述了高通在人工智能、云端、终端侧的观点和产品规划。

李维兴认为,5G与AI息息相关,尤其是在云端AI与终端AI并行发展的当下,5G能够将云与端的AI性能连接在一起。2019年将会是全球5G+AI的重要节点,当前高通的骁龙855的5G终端设计已经超过30款,绝大多数全球5G手机都会和855有关。

对于AI来说,软件与应用同样重要。除了发布AI芯片骁龙855之外,高通已经推出了四代AI平台,并跟商汤、旷视、虹软、科大讯飞、网易等业界众多软件AI合作伙伴。2018年,高通还正式成立了Qualcomm AI Research,对AI从研发到变成产品做了非常多的工作项目。

李维兴表示,2035年之前,5G的产品和服务将会累计到12.3万亿美元,2025年AI衍生的商业价值将达5.1万亿美元,5G跟AI其实是互相帮忙的情况,鱼帮水、水帮鱼。

高通技术副总裁李维兴演讲实录

李维兴:大家好!我是李维兴,今天很高兴能够代表Qualcomm再次出席此次活动。接下来,我想与大家分享Qualcomm在AI领域的最新进展,以及我们对云端、终端侧AI的一些想法。

很多人都是从通信开始知道Qualcomm这家企业的。过去30多年,Qualcomm一直在推动每一代移动技术的演进,从模拟技术到数字技术,从2G、3G、4G、再到现在的5G,从功能手机到智能手机,每一款智能手机都使用了Qualcomm的技术,我们改变了人们生活、工作和连接的方式。对于中国的4G而言,2014年是一个非常重要的时间点。除了支持4G的带宽速度外,Qualcomm还推动实现了从台式电脑到智能手机的突破。Qualcomm花费多年时间开发相关技术,目的是在尺寸、散热、功耗受到限制的移动环境下实现接近PC的处理能力。现在,智能手机拥有的强大计算能力,可以为我们的生活带来更大的便利,这些都是十分重要的改变。

高通李维兴:骁龙855 5G终端超30款,成立高通AI Research | GTIC2019

现在,我们正在进入下一代移动通信技术革命——5G。5G带来的不仅仅是人与人之间的连接,它将助力实现万物互联。从5G角度,到2035年,5G相关产品和服务将产生累计12.3万亿美元的价值;从AI角度,到2025年,AI衍生的商业价值将达5.1万亿美元。在Qualcomm,AI和5G是高度相关的,同时它们的并行发展也将激发诸多产品创新,让更多终端智能互连。

高通李维兴:骁龙855 5G终端超30款,成立高通AI Research | GTIC2019

大家刚刚可能也观察到了,在今天这个AI芯片峰会上,我的主题演讲是先从5G讲起的,这是因为从Qualcomm的角度,5G和AI是高度相关的。5G时代,训练、推理将在云端处理,所有的边缘终端都将具备机器学习能力。这意味着,数据处理将可以在最靠近数据源的位置处理,对云端处理进行补充。这将很好地保证了用户的隐私性,因为在终端里便可以支持实时的机器学习处理。同时因为在最靠近数据源的位置完成处理,它还将带来可靠性和低时延。终端侧处理还将带来高效性,因为它始终面向移动环境对于外形尺寸、能效、性能等方面的挑战。此外,它也将有助于支持个性化。2019年是全球5G向前发展一个十分关键的时间点,在云端进行AI的训练、推理,在终端侧进行AI的数据处理,这是值得期待的战略。

进入到智能手机时代,不难发现,手机已经成为移动通信计算平台上最重要的一部分。从2018年到2022年,智能手机的累计出货量将超过86亿部,移动终端的规模将为构建人工智能平台带来巨大潜能。Qualcomm开发的先进通信能力、计算能力、多媒体、低功耗等技术让小尺寸终端实现了丰富的功能,这也是为什么智能手机是目前最重要的技术应用和创新平台。

高通李维兴:骁龙855 5G终端超30款,成立高通AI Research | GTIC2019

Qualcomm从多年前开始人工智能的研究。Qualcomm在2007年启动首个AI项目,在此之后,我们也陆续参与了很多AI项目,并对AI的发展做出诸多贡献。在2018年,我们宣布成立Qualcomm AI Research,在公司范围内开展的全部前沿AI研究,并进行跨各职能部门的协作式强化整合,希望将终端侧智能拓展至更多全新行业。目前我们的研究已经应用到了产品侧——从第一代人工智能平台骁龙820到第四代平台骁龙855,我们很高兴地看到骁龙移动平台正在助力全球合作实现更智能的AI用例。接下来我想和大家介绍一下我们的四代AI平台。

我们的第一代AI平台是骁龙820。研究人员和商业开发者可在我们的CPU上运行神经网络,比较典型的就是运行Caffe。Caffe是当时最主流的架构,是商用领域很多相关研发的基础。这时候我们可以直接把神经网络训练放在终端的CPU上进行。

第二代AI平台是骁龙835,它引入了神经处理SDK。我们也与Google和Facebook进行了深入合作,针对两者提供的框架进行了优化,在终端侧支持TensorFlow和Caffe2,它们曾经都是通常在云端运行的框架。一旦网络受到了训练,开发者就可以从骁龙移动平台中选择CPU、GPU、DSP的合适内核运行,我们对所有这些内核都进行了优化。另外,离线工具可以在目标运行前,对模型进行转换、优化、量化。

第三代AI平台是骁龙845。在骁龙845上,我们对每一颗内核的计算能力都进行了扩展,同时我们也扩展了对更多的神经网络框架的支持。一方面,我们直接与这些神经网络框架供应商合作;另一方面,我们也支持了ONNX交换格式,能轻松地为开发者提供更多灵活性,从而让他们无需担心底层硬件支持的何种网路的问题。

高通李维兴:骁龙855 5G终端超30款,成立高通AI Research | GTIC2019

第四代AI平台是骁龙855。在骁龙855上,它充分利用骁龙的异构多核可编程架构,对每个内核进行大幅优化和提升,强调整体芯片面向AI计算的高效率和灵活性。特别值得注意的是,第四代人工智能引擎AI Engine包括四个HVX(Hexagon向量扩展内核),同时新增了一个Qualcomm自主设计、面向AI处理的硬件核心HTA (Hexagon张量加速器)。此外,第四代人工智能引擎AI Engine可以实现每秒超过7万亿次运算(7TOPs),整体AI性能是Android竞品旗舰产品的2倍以上。

高通李维兴:骁龙855 5G终端超30款,成立高通AI Research | GTIC2019

骁龙855除了集成我们第四代AI Engine,在AI处理以及算力方面性能显著提升之外,我还要强调一下的是,骁龙855是全球首款商用的5G移动平台,与骁龙X50搭配可以支持数千兆比特5G连接。目前,采用骁龙855的5G终端设计超过30款。包括小米、OPPO、一加、中兴通讯、努比亚、三星和LG等在内的全球多家手机厂商已经正式发布或展示了采用骁龙855的首批5G智能手机。通过骁龙855对于5G和AI的支持,Qualcomm正在携手全球基础设施厂商、运营商,进一步发掘5G与AI的潜力,希望为全球用户带来的全新水平的移动体验。

高通李维兴:骁龙855 5G终端超30款,成立高通AI Research | GTIC2019

接下来我想介绍Qualcomm众多产品线上的AI能力。首先是骁龙SoC,它包含骁龙800系列、骁龙700系列、骁龙600系列、骁龙400系列。如图所示,标记为红色的芯片与标记为蓝色的芯片均支持AI能力,差别在于,标记为红色的SoC支持Qualcomm人工智能引擎AI Engine。此外,在计算平台方面,骁龙8cx是面向Windows 10用户的移动计算平台,也支持AI Engine。在物联网方面,我们的很多产品也支持丰富的AI用例。对于扩展现实(XR),对AI的支持同样非常重要,因为业界对于新的人机界定非常重视。另外,汽车也是通信半导体计算平台的下一个演进平台。

高通李维兴:骁龙855 5G终端超30款,成立高通AI Research | GTIC2019

事实上,很多终端上已经商用了丰富的AI用例,比如计算摄影、背景虚化、自动对焦、关键词检测、音频相关的单麦克风降噪等。在软件合作伙伴中,超过20家AI软件合作伙伴正在基于骁龙移动平台上人工智能引擎AI Engine来开发算法,以打造丰富的AI用例,如拍摄、音频、增强现实、汽车。此外,Qualcomm还与广泛的AI云服务商展开合作,包括腾讯、百度、Facebook、Google和微软等。

高通李维兴:骁龙855 5G终端超30款,成立高通AI Research | GTIC2019

无论是AI实时翻译还是AI医疗,这是AI用例都让我们倍感振奋。但要实现规模化,智能必须分布至无线边缘。让数万亿相互连接的物体以及海量数据,可以进行学习并在边缘实时完成很多时处理数据的工作并非易事,因为在边缘进行机器学习意味着需要在有限的环境中同时完成多类型的任务。那么如何让工厂自动化、汽车自动化,又如何保证高效、个性化、隐私性和可靠性呢?我们需要提供不同的解决方案,让AI训练和推理遍布整个网络,真正在边缘实现人工智能。对于Qualcomm,我们拥有领先的、通过AI增强的调制解调器和射频前端(RFFE),可以提供业界最佳的性能和功耗。

要实现无线边缘,5G跟AI是互相帮忙的,鱼帮水、水帮鱼。超高速、低时延的5G连接除了可以接入互联网外,还可以与额外的处理器进行连接。这也就意味着,当我们在无线边缘构建计算能力时,移动终端上的边缘处理能力与5G之间的结合,将为终端带来无比强大的算力。因此,从Qualcomm的角度,AI和5G的并行发展是一个非常自然的过程。

Qualcomm致力于利用我们的研发投入推动技术创新、推动5G和AI向前发展,让所有终端智能互连。未来,Qualcomm将在移动行业中继续引领5G和AI的演进,为业界做出重要贡献。

以上是我跟大家的简单报告,谢谢各位。