智东西（公众号：zhidxcom）
文 | 心缘
2019年，国内AI芯片玩家正围绕落地展开新一轮的冲刺。
一边是华为、百度、阿里等科技巨头和几家独角兽轮番秀出云端AI芯片新进展，另一边聚焦于边缘与终端的多家AI芯片创企陆续登场，揭开其第一代或者最新一代芯片的神秘面纱。
与此同时，人们评判AI芯片的标准，也由看算力、功耗等硬指标，转向看量产规模、看客户、看生态。
这不，国内AI芯片落地的排头兵地平线，刚刚亮出新剑！
今天上午，地平线推出第二代边缘AI芯片旭日二代和一站式全场景边缘AI芯片解决方案。其芯片等效算力达4Tops，典型功耗为2W，算力利用率超过90%，如果配合高效算法，在同等TOPS下可处理的帧数比GPU的10倍还多。
据悉，旭日一代已服务数百家客户，营收数亿，交付数十万套方案。
在此之前，地平线已经创造了多个记录：中国第一家AI芯片创企、发布中国首款边缘AI芯片、征程芯片登陆美国助力国际顶尖Robotaxi车队、旭日一代落地首年全球出货量达六位数、发布中国首款车规级AI芯片。今年3月，地平线宣布完成B轮6亿美元融资，估值达30亿美元，成为全球估值最高的AI芯片独角兽。
经过4年的积累，地平线在AIoT领域已经形成一套独特的打法。除了推出新品之外，今日地平线还聚焦于其AIoT产品的整体布局，展示其在芯片、整体方案、开放生态体系、落地能力等方面的核心优势，并公布其AIoT系列芯片的路线图。
AIoT时代面临哪些核心挑战？为什么今年AI芯片企业的势头有所衰减？如何在碎片化的AIoT市场中构筑竞争壁垒？会后，地平线联合创始人、技术副总裁黄畅，地平线副总裁、智能物联芯片方案产品线总经理张永谦，接受智东西等媒体的采访，就这些问题一一分享了他们的见解。
一、旭日二代：算力达4Tops，算力利用率超90%
旭日二代边缘AI芯片（以下简称“旭日二代”）面向智能物联网，具备强大的视频结构化能力，可对多类目标进行实施检测和精准识别，今年3月已完成流片，接近量产阶段。
该芯片采用台积电28nm工艺，面积不过14mm x 14mm，内置双核A53处理器和两个基于地平线第二代BPU架构（伯努利架构）的BPU。
BPU架构由地平线基于AI算法实际场景需求设计而成，以最大程度提升算力的有效利用率，同时保障芯片的前瞻性、迭代延续性。
旭日二代的等效算力达4Tops，典型功耗为2W，单路可实时处理4K@30fps，4路可实时处理1080P@30fps。地平线联合创始人、技术副总裁黄畅强调说，该芯片典型算法模型算力利用率超过90%，这在业界几乎是绝无仅有的。
如果配合高效算法，每TOPS算力可处理的帧数将高于标称4Tops算力的AI芯片，比同等算力GPU处理帧数的10倍还多。
在旭日二代上的实际测试结果表明，分类模型 MobileNet V2的运行速度超过每秒700张图片，检测模型Yolo V3的运行速度超过每秒40张图片。
针对物联网场景下的主要目标群体“人”和“车”，旭日二代进行了大量的算法优化，在边缘端即可实现全视频结构化能力，可高效灵活地处理多类AI任务，包括10～30万人前端识别，密集人群时空属性行为分析，多种非机动车、机动车检测分类。
前期客户验证表明，旭日二代可完全满足商业、办公、社区、园区、教育等物联网场景需求。
以通行门禁考勤方案为例，相较旭日一代，旭日二代芯片方案可将最大人脸库容从最快200ms提升至100ms，并由原本只支持安卓系统进化为支持安卓/Linux系统。
目前，旭日二代支持MXNet和TensorFlow框架，预计明年年初支持PyTorch。
黄畅向智东西介绍，地平线围绕其核心BPU定义一套自己的指令集，随着指令集的扩充，未来旭日芯片还将支持更多框架。
现场黄畅还透露了旭日系列芯片的路线图，旭日三代将于大约一年后推出，作为完整SoC方案，提供多种算力配置和多Camera输入支持，更好地整合多路的视频接入、视频处理、ISP、视频编辑码压缩等技术。
▲旭日系列芯片Roadmap
二、解读地平线AIoT五大优势
相比传统芯片大厂，地平线拥有更加开放的生态体系，落地能力也更加灵活高效，能大幅提升开发效率，并确保客户投资安全性。
总体来看，地平线AIoT有五方面的优势。
1、软硬协同输出极致效能
地平线率先提出，将世界领先的深度学习算法集成在自主研发的边缘AI处理器及平台上，通过软硬协同的方式将发挥效能优势发挥到极致。
经典芯片性能评估方式是PPA（功耗Power、性能Performance、面积Area），AI芯片真实性能常用Tops/W与Tops来呈现。
而黄畅认为，此类评估方式并不完全准确，AI芯片的真实性能应是能效、利用率、算法能力的乘积。这意味着不仅要对芯片和算法进行优化，还要对连接两者的编译器等中间环节进行优化，最终达成全面的优化。
以编译器优化所带来的利用率提升为例，即便有架构自动优化，有编译器相比没编译器的情况，单帧带宽消耗可从每帧141.9MB降到每帧34.4MB，单帧计算延迟可从43.77毫秒降到25.1毫秒，而计算资源利用率可从57%提升到95%。
黄畅介绍说，地平线充分考虑到未来重要应用场景的关键算法的计算特性，对趋势进行预判，前瞻性地将计算特点融入到计算架构设计中，使AI芯片随着芯片演进趋势，能始终保持相当高的有效利用率，从而真正意义上受益于算法创新带来的优势。
2、完整的方案能力
地平线拥有丰富的算法样例模型，能够为客户提供以芯片+算法+工具链为核心的完整方案，满足多样化场景需求。
地平线提供完整开放的旭日芯片解决方案及“天工开物”芯片工具链，包括丰富的模型和应用示例、可视化性能分析工具、可快速上手的BPU API、高度灵活的HR Runtime API和Platform API，供客户根据需求选择。
这些工具链可提供可视化调试调优工具，协助开发者快速分析定位问题，还提供丰富的例子、文档，支持客户快速产品落地。
3、开放的生态体系
基于边缘AI芯片，地平线致力于打造一个多层次、多维度、多样性的开放生态体系。
▲地平线开放赋能生态体系
在产业链赋能方面，地平线坚持底层技术能力研发，加速普惠AI时代到来；在开发者生态方面， 地平线通过工具链服务降低开发者门槛，助力上层应用产生，以此丰富整个AIoT应用生态。
此外， 地平线也正通过与行业开放社区合作的形式降低开发者门槛，比如地平线加入96Boards社区，并在前段时间，推出基于96Boards SOM规范的边缘AI开发套件BOOTPRINT X2，该套件具有高算力、高效能、感知接口丰富、可扩展的特点。
4、落地能力比同类型产品更灵活高效
地平线主打软硬协同，其芯片具有高MAC利用率，实际任务处理表现更好。
其芯片方案支持新模型优化，如 MobileNet、Faster RCNN。同等算力下，X2 在MobileNetV2之类的新模型上，比海思高端芯片（4Tops 算力）有更好的表现，实际性能更强，且功耗、成本更低。
另外，海思只支持Caffe，而地平线还支持更主流的训练框架TensorFlow。比如科达选择地平线很大程度上源于旭日二代芯片支持TensorFlow。
5、在设备投入和运维上降低成本
得益于边缘计算具有高度可靠、实时处理、灵活部署等特性，地平线可在两方面帮助客户降低成本。
一是设备投入，无需购置大型服务器或占用较大宽带网络。
二是设备运维，进行日常维护，更新迭代方便。
三、一站式全场景边缘AI芯片解决方案
随后，地平线副总裁、智能物联芯片方案产品线总经理张永谦发布旭日二代AI芯片及解决方案Horizon Hero，包括三类边缘AI芯片解决方案：地平线HeroSights智能摄像机解决方案、地平线HeroSpark通行门禁考勤方案、地平线HeroStream智能分析盒解决方案。
张永谦提到，AIoT产品化存在五点挑战：
（1）开发多种形态AI产品，满足不同场景需求；
（2）最好的智能与图像场景效果；
（3）快速开发上层智能应用；
（4）快速完成硬件设计；
（5）快速完成系统级整合。
针对这些挑战，地平线将解决方案从芯片、基础算法上推，使得客户可以更快、以更小投入、最低成本去快速完成产品化。相较于市场上的AI方案，Hero在以下方面拥有明显的落地优势：
1、边缘计算：本地端即可完成计算，数据无需上传到云端；
2、软硬结合：算法与芯片协同优化，使方案兼具高性能、低功耗特点；
3、端边结合：方案覆盖智能摄像机，面板机以及智能分析盒；
4、全场景一站式方案：完整解决方案支持客户快速应用开发和量产。
图像搭配语音，从像素级感知到时空语义建模，以“人”为本的Horizon Hero AI全场景能力集的全场景能力正在快速形成。
软件方面，地平线有非常强大的智能算法团队，提供了从最底层像素级的、最基础的原子的智能化处理，到语音识别、身份识别、人体属性分析，再到对人体感知时空的分析，有一整套完整的算法能力集。
针对客户不同的应用，地平线在算法集合的基础之上，还提供算法策略能力集，以缩短产品开发时间。
为了使客户能够快速地开发应用，地平线打造了端边一体AI嵌入式软件架构，只要在端的模块上加上算法配置和通道管理模块，就可以迅速形成边缘侧的软件架构。
其软件框架跨OS、AI全场景、模块化组件开发框架既支持安卓，也支持Linux，客户可在常用的几类端设备和边缘设备上快速集成他们的应用，这些应用也都具有很强的可复制性、可迁移性。
硬件方面，地平线提供完整硬件交付与参考设计，包括芯片、套件以及标准主板，同时地平线也提供完整的原理图和PCB Layout的设计。
地平线的芯片既单独向外销售，也通过整体解决方案的方式对外供给。如果客户想选择更熟悉的元器件，地平线也可以帮助他们在元器件上做整合和集成。
地平线还会提供整机智能效果集成支撑能力，包括模块化参考设计、结构与散热设计、原型机重现等。
这是因为光有核心设计仍不够，整体方案的效果还与光照、距离等外部因素有关，针对不同场景，地平线会提供多套不同的产品设计，并为客户集成各种他们需要的模块。
目前，地平线面向平安城市、智慧社区、智慧办公、智慧园区、智慧校园、智慧商业等六大行业提供解决方案。
四、数百家合作伙伴，营收数亿
据张永谦介绍，截至目前，旭日一代芯片已服务数百家客户，营收数亿，交付数十万套方案，实现线下场景服务数千万人口。
▲地平线在 AIoT 领域部分可公开合作伙伴
在地平线商业化加速过程中，有商米、多度、小米、永辉等许多优质客户落地案例。
智慧零售方面，基于地平线针对零售场景的AIoT芯片解决方案，商米推出了AI识客摄像机，可在本地端主动识别进店顾客并进行丰富的属性鉴别，解决商家“看店难”问题，助力精准营销。
智慧社区方面，基于“AI芯片+算法”的一站式AIoT解决方案，地平线与多度联合打造了智慧社区AI智能产品及解决方案。
除了视觉外，地平线在语音领域也有颇多建树，能提供包含麦克风阵列、信号处理、唤醒、语义理解、语音识别、语音合成的全链路解决方案。其语音方案在国内已拿下多个大单。
例如，智能家居方面，地平线为小米一系列语音交互智能设备，提供自主研发的增强语音抽取（Enhanced Speech Extraction，简称 ESE）方案，使得小米音箱在复杂的噪声环境中亦可实现随时打断、随时唤醒，交互体验更为精准、流畅。
地平线的方案将各个环节算法和芯片架构充分结合，通过端云结合，能在端侧更好地解决复杂场景中的语音处理问题。黄畅相信，很快地平线就可以在端上，拿出一个和服务器能够做到的性能相媲美的整套云链路，并将进一步在语音处理与视觉融合上发力。
五、AIoT应关注两个闭环，拼落地需要综合打法
会后，地平线联合创始人、副总裁黄畅，地平线副总裁、智能物联芯片方案产品线总经理张永谦，接受智东西等媒体的采访。
▲地平线副总裁、智能物联芯片方案产品线总经理张永谦（左），地平线联合创始人、副总裁黄畅（右）
在采访期间，黄畅和张永谦还多次强调，地平线不是单纯的芯片公司，而是通过“芯片+算法”的模式以挖掘更好的性能。相比其他方案，旭日二代芯片整个解决方案的价值最大化在于软件，芯片是技术能力中的重要基石，而在AIoT长尾应用领域的核心成本也是算法。
1、AIoT面临的两大挑战
谈及AIoT的挑战，黄畅认为，我们应该关注两个闭环，一是业务闭环，二是数据闭环。
在AIoT领域赋能传统行业时，很多困境来自缺乏开放性，对自我认知不足，对边界判定不清晰，导致各方无法专注于自身核心能力的打造。如果不能有效地构成业务闭环，就无法让信息进行流动联通。
数据闭环的难处来自于跨行业。传统行业往往很难将与业务场景强相关的数据分享出来，因此对于地平线这样关注基础AI能力建设的公司来说，能否持续去获取真实场景中的数据，经过不断迭代形成一个感知平台，广泛赋能各个业务场景中的一些基础AI任务，这个能力本身也非常重要。
2、真正落地需要一套综合打法
另外，今年的安防展中，AI芯片厂商身影似乎要比往年少。对于这一现象，黄畅并不觉得奇怪。
在他看来，AI芯片距离真正商业化落地还很遥远，过去两年，国内涌现一批造芯热潮，但其中一部分处于PPT造芯，自然今年的声势会弱下去。如今大家更注重落地，地平线也是如此，并不仅仅关注构造一个更加开放的边缘AI计算平台，同时也非常关注面向垂直领域的一站式解决方案。
要做到真正落地需要一套综合打法，是个动态切换、调整的过程。在这个过程中，地平线始终保持较为灵活的姿态和开放的态度，和产业界进行充分合作，根据客户需求进行自我调整。
黄畅表示，相信围绕地平线的核心能力，他们能够去创造价值、提高效率，从而反过来去证明自己共性的价值。
3、多种感知融合成提升交互体验的新趋势
既然自动驾驶AI芯片和视觉AIoT芯片都已推出第二代，那么地平线是否有涉足语音AI芯片的计划？
对此，黄畅告诉智东西，初期地平线曾考虑过这一问题，后来发现传统语音终端芯片中，现有的DSP 、Arm CPU等模块已经足够好，如果延续传统的语音算法，不认为自研处理器会有优势。
地平线看到的契机是通过更高的算力去显著提升语音交互的体验，通过不断将语音算法放到新架构上，从算法层面上加以改进。另外近几年呈现多种感知算法相互借鉴融合的趋势，其语音与图像的运算、处理的方式越来越趋同。
结语：从地平线看AIoT芯片落地三趋势
人工智能和机器学习的爆发，给边缘计算带来了巨大的机会。而地平线选择的自动驾驶和AIoT两条主线，前者被公认为代表人们出行的未来，后者更是广泛应用于人们生活的方方面面。
如今已进入AIoT芯片拼落地的时代，从地平线身上，我们可以看到当前AIoT芯片发展的几个趋势：
1、单芯片性能不再是唯一指标，软件成提升性能的关键手段，通过软硬协同最终带来整体性能提升。
2、芯片开发的易用性更受重视，打造芯片的同时，也通过搭配工具链等方式降低开发门槛。
3、AIoT芯片正走出只秀性能的固有模式，开始同落地紧密结合，提供更方便易用的一站式解决方案。
而这些趋势指向的同一目标，都是尽可能最大程度地方便开发者及企业的需求，通过提供更加开放的赋能服务，吸引更多合作伙伴，为自身生态建设奠定基础。
