智东西(公众号:zhidxcom)
文 | 心缘

2019年,国内AI芯片玩家正围绕落地展开新一轮的冲刺。

一边是华为百度阿里等科技巨头和几家独角兽轮番秀出云端AI芯片新进展,另一边聚焦于边缘与终端的多家AI芯片创企陆续登场,揭开其第一代或者最新一代芯片的神秘面纱。

与此同时,人们评判AI芯片的标准,也由看算力、功耗等硬指标,转向看量产规模、看客户、看生态。

这不,国内AI芯片落地的排头兵地平线,刚刚亮出新剑!

今天上午,地平线推出第二代边缘AI芯片旭日二代和一站式全场景边缘AI芯片解决方案。其芯片等效算力达4Tops,典型功耗为2W,算力利用率超过90%,如果配合高效算法,在同等TOPS下可处理的帧数比GPU的10倍还多。

算力利用率超90%!地平线推二代边缘芯片,详解AIoT落地综合打法

据悉,旭日一代已服务数百家客户,营收数亿,交付数十万套方案。

在此之前,地平线已经创造了多个记录:中国第一家AI芯片创企、发布中国首款边缘AI芯片、征程芯片登陆美国助力国际顶尖Robotaxi车队、旭日一代落地首年全球出货量达六位数、发布中国首款车规级AI芯片。今年3月,地平线宣布完成B轮6亿美元融资,估值达30亿美元,成为全球估值最高的AI芯片独角兽。

经过4年的积累,地平线在AIoT领域已经形成一套独特的打法。除了推出新品之外,今日地平线还聚焦于其AIoT产品的整体布局,展示其在芯片、整体方案、开放生态体系、落地能力等方面的核心优势,并公布其AIoT系列芯片的路线图。

算力利用率超90%!地平线推二代边缘芯片,详解AIoT落地综合打法

AIoT时代面临哪些核心挑战?为什么今年AI芯片企业的势头有所衰减?如何在碎片化的AIoT市场中构筑竞争壁垒?会后,地平线联合创始人、技术副总裁黄畅,地平线副总裁、智能物联芯片方案产品线总经理张永谦,接受智东西等媒体的采访,就这些问题一一分享了他们的见解。

一、旭日二代:算力达4Tops算力利用率超90%

旭日二代边缘AI芯片(以下简称“旭日二代”)面向智能物联网,具备强大的视频结构化能力,可对多类目标进行实施检测和精准识别,今年3月已完成流片,接近量产阶段。

算力利用率超90%!地平线推二代边缘芯片,详解AIoT落地综合打法

该芯片采用台积电28nm工艺,面积不过14mm x 14mm,内置双核A53处理器和两个基于地平线第二代BPU架构(伯努利架构)的BPU。

BPU架构由地平线基于AI算法实际场景需求设计而成,以最大程度提升算力的有效利用率,同时保障芯片的前瞻性、迭代延续性。

旭日二代的等效算力达4Tops,典型功耗为2W,单路可实时处理4K@30fps,4路可实时处理1080P@30fps。地平线联合创始人、技术副总裁黄畅强调说,该芯片典型算法模型算力利用率超过90%,这在业界几乎是绝无仅有的。

如果配合高效算法,每TOPS算力可处理的帧数将高于标称4Tops算力的AI芯片,比同等算力GPU处理帧数的10倍还多

在旭日二代上的实际测试结果表明,分类模型 MobileNet V2的运行速度超过每秒700张图片,检测模型Yolo V3的运行速度超过每秒40张图片。

算力利用率超90%!地平线推二代边缘芯片,详解AIoT落地综合打法

针对物联网场景下的主要目标群体“人”和“车”,旭日二代进行了大量的算法优化,在边缘端即可实现全视频结构化能力,可高效灵活地处理多类AI任务,包括10~30万人前端识别,密集人群时空属性行为分析,多种非机动车、机动车检测分类。

前期客户验证表明,旭日二代可完全满足商业、办公、社区、园区、教育等物联网场景需求。

以通行门禁考勤方案为例,相较旭日一代,旭日二代芯片方案可将最大人脸库容从最快200ms提升至100ms,并由原本只支持安卓系统进化为支持安卓/Linux系统。

目前,旭日二代支持MXNet和TensorFlow框架,预计明年年初支持PyTorch。

黄畅向智东西介绍,地平线围绕其核心BPU定义一套自己的指令集,随着指令集的扩充,未来旭日芯片还将支持更多框架。

现场黄畅还透露了旭日系列芯片的路线图,旭日三代将于大约一年后推出,作为完整SoC方案,提供多种算力配置和多Camera输入支持,更好地整合多路的视频接入、视频处理、ISP、视频编辑码压缩等技术。

算力利用率超90%!地平线推二代边缘芯片,详解AIoT落地综合打法

▲旭日系列芯片Roadmap

二、解读地平线AIoT五大优势

相比传统芯片大厂,地平线拥有更加开放的生态体系,落地能力也更加灵活高效,能大幅提升开发效率,并确保客户投资安全性。

总体来看,地平线AIoT有五方面的优势。

1、软硬协同输出极致效能

地平线率先提出,将世界领先的深度学习算法集成在自主研发的边缘AI处理器及平台上,通过软硬协同的方式将发挥效能优势发挥到极致。

经典芯片性能评估方式是PPA(功耗Power、性能Performance、面积Area),AI芯片真实性能常用Tops/W与Tops来呈现。

而黄畅认为,此类评估方式并不完全准确,AI芯片的真实性能应是能效、利用率、算法能力的乘积。这意味着不仅要对芯片和算法进行优化,还要对连接两者的编译器等中间环节进行优化,最终达成全面的优化。

算力利用率超90%!地平线推二代边缘芯片,详解AIoT落地综合打法

以编译器优化所带来的利用率提升为例,即便有架构自动优化,有编译器相比没编译器的情况,单帧带宽消耗可从每帧141.9MB降到每帧34.4MB,单帧计算延迟可从43.77毫秒降到25.1毫秒,而计算资源利用率可从57%提升到95%。

算力利用率超90%!地平线推二代边缘芯片,详解AIoT落地综合打法

黄畅介绍说,地平线充分考虑到未来重要应用场景的关键算法的计算特性,对趋势进行预判,前瞻性地将计算特点融入到计算架构设计中,使AI芯片随着芯片演进趋势,能始终保持相当高的有效利用率,从而真正意义上受益于算法创新带来的优势。

2、完整的方案能力

地平线拥有丰富的算法样例模型,能够为客户提供以芯片+算法+工具链为核心的完整方案,满足多样化场景需求。

地平线提供完整开放的旭日芯片解决方案及“天工开物”芯片工具链,包括丰富的模型和应用示例、可视化性能分析工具、可快速上手的BPU API、高度灵活的HR Runtime API和Platform API,供客户根据需求选择。

算力利用率超90%!地平线推二代边缘芯片,详解AIoT落地综合打法

这些工具链可提供可视化调试调优工具,协助开发者快速分析定位问题,还提供丰富的例子、文档,支持客户快速产品落地。

3、开放的生态体系

基于边缘AI芯片,地平线致力于打造一个多层次、多维度、多样性的开放生态体系。

算力利用率超90%!地平线推二代边缘芯片,详解AIoT落地综合打法

▲地平线开放赋能生态体系

在产业链赋能方面,地平线坚持底层技术能力研发,加速普惠AI时代到来;在开发者生态方面, 地平线通过工具链服务降低开发者门槛,助力上层应用产生,以此丰富整个AIoT应用生态。

此外, 地平线也正通过与行业开放社区合作的形式降低开发者门槛,比如地平线加入96Boards社区,并在前段时间,推出基于96Boards SOM规范的边缘AI开发套件BOOTPRINT  X2,该套件具有高算力、高效能、感知接口丰富、可扩展的特点。

算力利用率超90%!地平线推二代边缘芯片,详解AIoT落地综合打法

4落地能力比同类型产品更灵活高效

地平线主打软硬协同,其芯片具有高MAC利用率,实际任务处理表现更好。

其芯片方案支持新模型优化,如 MobileNet、Faster RCNN。同等算力下,X2 在MobileNetV2之类的新模型上,比海思高端芯片(4Tops 算力)有更好的表现,实际性能更强,且功耗、成本更低。

另外,海思只支持Caffe,而地平线还支持更主流的训练框架TensorFlow。比如科达选择地平线很大程度上源于旭日二代芯片支持TensorFlow。

5、在设备投入和运维上降低成本

得益于边缘计算具有高度可靠、实时处理、灵活部署等特性,地平线可在两方面帮助客户降低成本。

一是设备投入,无需购置大型服务器或占用较大宽带网络。

二是设备运维,进行日常维护,更新迭代方便。

三、一站式全场景边缘AI芯片解决方案

随后,地平线副总裁、智能物联芯片方案产品线总经理张永谦发布旭日二代AI芯片及解决方案Horizon Hero,包括三类边缘AI芯片解决方案:地平线HeroSights智能摄像机解决方案、地平线HeroSpark通行门禁考勤方案、地平线HeroStream智能分析盒解决方案。

算力利用率超90%!地平线推二代边缘芯片,详解AIoT落地综合打法

张永谦提到,AIoT产品化存在五点挑战:

(1)开发多种形态AI产品,满足不同场景需求;

(2)最好的智能与图像场景效果;

(3)快速开发上层智能应用;

(4)快速完成硬件设计;

(5)快速完成系统级整合。

算力利用率超90%!地平线推二代边缘芯片,详解AIoT落地综合打法

针对这些挑战,地平线将解决方案从芯片、基础算法上推,使得客户可以更快、以更小投入、最低成本去快速完成产品化。相较于市场上的AI方案,Hero在以下方面拥有明显的落地优势:

1、边缘计算:本地端即可完成计算,数据无需上传到云端;

2、软硬结合:算法与芯片协同优化,使方案兼具高性能、低功耗特点;

3、端边结合:方案覆盖智能摄像机,面板机以及智能分析盒;

4、全场景一站式方案:完整解决方案支持客户快速应用开发和量产。

图像搭配语音,从像素级感知到时空语义建模,以“人”为本的Horizon Hero AI全场景能力集的全场景能力正在快速形成。

算力利用率超90%!地平线推二代边缘芯片,详解AIoT落地综合打法

软件方面,地平线有非常强大的智能算法团队,提供了从最底层像素级的、最基础的原子的智能化处理,到语音识别、身份识别、人体属性分析,再到对人体感知时空的分析,有一整套完整的算法能力集。

针对客户不同的应用,地平线在算法集合的基础之上,还提供算法策略能力集,以缩短产品开发时间。

为了使客户能够快速地开发应用,地平线打造了端边一体AI嵌入式软件架构,只要在端的模块上加上算法配置和通道管理模块,就可以迅速形成边缘侧的软件架构。

其软件框架跨OS、AI全场景、模块化组件开发框架既支持安卓,也支持Linux,客户可在常用的几类端设备和边缘设备上快速集成他们的应用,这些应用也都具有很强的可复制性、可迁移性。

算力利用率超90%!地平线推二代边缘芯片,详解AIoT落地综合打法

硬件方面,地平线提供完整硬件交付与参考设计,包括芯片、套件以及标准主板,同时地平线也提供完整的原理图和PCB Layout的设计。

地平线的芯片既单独向外销售,也通过整体解决方案的方式对外供给。如果客户想选择更熟悉的元器件,地平线也可以帮助他们在元器件上做整合和集成。

地平线还会提供整机智能效果集成支撑能力,包括模块化参考设计、结构与散热设计、原型机重现等。

这是因为光有核心设计仍不够,整体方案的效果还与光照、距离等外部因素有关,针对不同场景,地平线会提供多套不同的产品设计,并为客户集成各种他们需要的模块。

算力利用率超90%!地平线推二代边缘芯片,详解AIoT落地综合打法

目前,地平线面向平安城市、智慧社区、智慧办公、智慧园区、智慧校园、智慧商业等六大行业提供解决方案。

四、数百家合作伙伴,营收数亿

据张永谦介绍,截至目前,旭日一代芯片已服务数百家客户,营收数亿,交付数十万套方案,实现线下场景服务数千万人口。

算力利用率超90%!地平线推二代边缘芯片,详解AIoT落地综合打法

▲地平线在 AIoT 领域部分可公开合作伙伴

在地平线商业化加速过程中,有商米、多度、小米、永辉等许多优质客户落地案例。

智慧零售方面,基于地平线针对零售场景的AIoT芯片解决方案,商米推出了AI识客摄像机,可在本地端主动识别进店顾客并进行丰富的属性鉴别,解决商家“看店难”问题,助力精准营销。

智慧社区方面,基于“AI芯片+算法”的一站式AIoT解决方案,地平线与多度联合打造了智慧社区AI智能产品及解决方案。

除了视觉外,地平线在语音领域也有颇多建树,能提供包含麦克风阵列、信号处理、唤醒、语义理解、语音识别、语音合成的全链路解决方案。其语音方案在国内已拿下多个大单。

例如,智能家居方面,地平线为小米一系列语音交互智能设备,提供自主研发的增强语音抽取(Enhanced Speech Extraction,简称 ESE)方案,使得小米音箱在复杂的噪声环境中亦可实现随时打断、随时唤醒,交互体验更为精准、流畅。

地平线的方案将各个环节算法和芯片架构充分结合,通过端云结合,能在端侧更好地解决复杂场景中的语音处理问题。黄畅相信,很快地平线就可以在端上,拿出一个和服务器能够做到的性能相媲美的整套云链路,并将进一步在语音处理与视觉融合上发力。

五、AIoT应关注两个闭环,拼落地需要综合打法

会后,地平线联合创始人、副总裁黄畅,地平线副总裁、智能物联芯片方案产品线总经理张永谦,接受智东西等媒体的采访。

算力利用率超90%!地平线推二代边缘芯片,详解AIoT落地综合打法

▲地平线副总裁、智能物联芯片方案产品线总经理张永谦(左),地平线联合创始人、副总裁黄畅(右)

在采访期间,黄畅和张永谦还多次强调,地平线不是单纯的芯片公司,而是通过“芯片+算法”的模式以挖掘更好的性能。相比其他方案,旭日二代芯片整个解决方案的价值最大化在于软件,芯片是技术能力中的重要基石,而在AIoT长尾应用领域的核心成本也是算法。

1、AIoT面临的两大挑战

谈及AIoT的挑战,黄畅认为,我们应该关注两个闭环,一是业务闭环,二是数据闭环。

AIoT领域赋能传统行业时,很多困境来自缺乏开放性,对自我认知不足,对边界判定不清晰,导致各方无法专注于自身核心能力的打造。如果不能有效地构成业务闭环,就无法让信息进行流动联通。

数据闭环的难处来自于跨行业。传统行业往往很难将与业务场景强相关的数据分享出来,因此对于地平线这样关注基础AI能力建设的公司来说,能否持续去获取真实场景中的数据,经过不断迭代形成一个感知平台,广泛赋能各个业务场景中的一些基础AI任务,这个能力本身也非常重要。

2、真正落地需要一套综合打法

另外,今年的安防展中,AI芯片厂商身影似乎要比往年少。对于这一现象,黄畅并不觉得奇怪。

在他看来,AI芯片距离真正商业化落地还很遥远,过去两年,国内涌现一批造芯热潮,但其中一部分处于PPT造芯,自然今年的声势会弱下去。如今大家更注重落地,地平线也是如此,并不仅仅关注构造一个更加开放的边缘AI计算平台,同时也非常关注面向垂直领域的一站式解决方案。

要做到真正落地需要一套综合打法,是个动态切换、调整的过程。在这个过程中,地平线始终保持较为灵活的姿态和开放的态度,和产业界进行充分合作,根据客户需求进行自我调整。

黄畅表示,相信围绕地平线的核心能力,他们能够去创造价值、提高效率,从而反过来去证明自己共性的价值。

3、多种感知融合成提升交互体验的新趋势

既然自动驾驶AI芯片和视觉AIoT芯片都已推出第二代,那么地平线是否有涉足语音AI芯片的计划?

对此,黄畅告诉智东西,初期地平线曾考虑过这一问题,后来发现传统语音终端芯片中,现有的DSP 、Arm CPU等模块已经足够好,如果延续传统的语音算法,不认为自研处理器会有优势。

地平线看到的契机是通过更高的算力去显著提升语音交互的体验,通过不断将语音算法放到新架构上,从算法层面上加以改进。另外近几年呈现多种感知算法相互借鉴融合的趋势,其语音与图像的运算、处理的方式越来越趋同。

结语:从地平线看AIoT芯片落地三趋势

人工智能和机器学习的爆发,给边缘计算带来了巨大的机会。而地平线选择的自动驾驶和AIoT两条主线,前者被公认为代表人们出行的未来,后者更是广泛应用于人们生活的方方面面。

如今已进入AIoT芯片拼落地的时代,从地平线身上,我们可以看到当前AIoT芯片发展的几个趋势:

1、单芯片性能不再是唯一指标,软件成提升性能的关键手段,通过软硬协同最终带来整体性能提升。

2、芯片开发的易用性更受重视,打造芯片的同时,也通过搭配工具链等方式降低开发门槛。

3、AIoT芯片正走出只秀性能的固有模式,开始同落地紧密结合,提供更方便易用的一站式解决方案。

而这些趋势指向的同一目标,都是尽可能最大程度地方便开发者及企业的需求,通过提供更加开放的赋能服务,吸引更多合作伙伴,为自身生态建设奠定基础。