芯潮(公众号:aichip001)
文 | 心缘

芯潮10月22日报道,今日,清华大学湃方科技发布人工智能(AI)芯片产品阵列,包括Sticker系列AI芯片IP核、面向视觉应用的首款超低功耗嵌入式AI协处理器Tritium 103、工业视觉边缘计算平台Reactor。

清华团队又出新芯片!百度经纬等投资,成果入选国际集成电路顶会

Sticker系列AI芯片能效最高达140.3 TOPS/W,功耗低于40mW,曾在今年7月底的ISLPED 2019上获得设计竞赛一等奖,已在中石油中石化、山东双轮等行业龙头企业进行了应用,可满足智慧工业、智慧城市、智能制造等各类高能效、高性能应用场景的需求。

芯潮等少数媒体来到湃方科技会议室,与湃方科技CEO、清华大学电子系武通达博士进行深入交流。除了介绍湃方的芯片及全栈式产品布局,武通达也和我们分享了这支全清华创始团队因何选择了相对小众的传统工业赛道,又在短短不到一年的创立时间内,实现了怎样的落地成果。

一、全清华创始团队,聚焦传统工业场景

湃方科技正式成立于2018年9月,创始团队全部来自于清华大学,拥有20多项领先专利技术。

去年11月,湃方科技获得天使轮融资,由百度风投领投,经纬中国、晨源鸿策、华控基石等跟投。

武通达任湃方科技CEO兼芯片团队负责人,是清华电子工程系的本硕博“三清”毕业生。在以优异的成绩考入清华大学电子系后,他跟随刘勇攀教授从事AI芯片研究。

清华大学电子工程系教授、电路与系统研究所所长、博士生导师刘勇攀教授,是智能物联网、AI芯片专家,拥有二十年低功耗电路设计经验,曾设计完成世界上首款低功耗非易失处理器、第一款支持全稀疏度AI芯片Sticker,并成为首位获得DAC under 40技术创新奖的华人。

刘勇攀教授团队关于Sticker的相关成果相继发表在ISSCC/VLSI/JSSC上,以具有灵活配置、可扩展、多核异构可堆叠的特点,受到了学术界和产业界的广泛关注。刘勇攀教授在湃方科技任职首席科学家。

清华团队又出新芯片!百度经纬等投资,成果入选国际集成电路顶会

▲湃方科技联合创始人、CEO武通达(左),湃方科技创始人、首席科学家刘勇攀(右)

在芯片技术科研课题不断取得突破的同时,武通达逐渐开始思考如何将所学的先进AI技术应用到我国传统工业领域。

武通达是黑龙江大庆人,生长在我国最大、最早的石油城市里,对我国传统石油产业中生产设备管理困难等问题感同身受。而生长于辽宁盘锦的另一位创始人,湃方科技总裁马君博士和武通达的经历有相似之处。马君曾任阿里巴巴达摩院决策智能实验室算法专家、中国石油地球物理公司数据科学家,有7年算法研发经验、4年工业实践经验。

双方想法不谋而合,于是两个团队带着芯片技术和算法技术走到一起。武通达负责芯片团队,马君负责软件团队。

清华团队又出新芯片!百度经纬等投资,成果入选国际集成电路顶会

硬件团队负责人是李金阳,他的本科和硕士同样毕业于清华电子系,在监测系统等项目上具有深厚的产品研发和产品运营经验,他在湃方科技任COO一职。

在刘勇攀教授的指导下,武通达和清华大学的一批志同道合的战友成立了湃方科技,定位为“芯片+算法+应用系统”融合的设备智能化管理服务提供商,致力于合理帮助我国传统产业的智能化升级,为中国制造2025和工业4.0贡献一份力量。

当前,湃方科技员工由20%以上的博士生构成,50%以上的硕士生构成,96%以上的学士构成。除了来自清华的创始团队外,其员工来自阿里巴巴、谷歌、中国石油、中科曙光等行业前沿企业。

二、AI芯片全矩阵,布局终端与边缘

湃方团队切入芯片的视角,是看见AI芯片正从云端到终端,计算逐步下沉。终端高效处理追求更精细的设计、更贴近应用、更高能效比,其需求的瓶颈就越倾向于功耗,通常功耗不超过2W。

云端巨头云集,而终端市场拥有更多细分垂直领域,赋予初创公司巨大的空间,也需要更多玩家去探索。

清华团队又出新芯片!百度经纬等投资,成果入选国际集成电路顶会

在市场驱动下,湃方当前的芯片布局着重在终端芯片和部分边缘芯片,形成湃方星核“算芯一体”的高能效芯片产品矩阵。

由于不同稀疏度矩阵运算对于计算和存储电路要求各不相同,如何实现能同时高效处理各种稀疏度人工神经网络矩阵的统一架构,成为横亘在AI芯片设计面前的一大难题。

面对这一难题,清华大学电子工程系刘勇攀教授团队提出了高能效推理核心Sticker系列。

该系列基于算法-架构-电路的联合创新,系统性探索了在芯片架构层次利用网络稀疏性和低位宽表示以提升芯片推理能效的可能性。

Sticker系列遵循“多比特量化-非结构化稀疏-结构化稀疏-稀疏量化协同”的技术路线,先后打造了7款Sticker相关的不同计算架构以实现不同指标,在芯片推理和片上训练操作的能效上实现了巨大突破。

目前,其稀疏量化协同的工作成果已被ASSCC 2019接收,经两种技术融合后,能效值取得了进一步的飞跃。

清华团队又出新芯片!百度经纬等投资,成果入选国际集成电路顶会

据武通达介绍,其团队从2014年开始研究,于2016年正式发表第一篇AI芯片计算架构,随后根据具体应用、功耗需求,定制了一系列AI芯片。其中,2018年的Sticker-I是一个关键突破,是首款全面支持不同稀疏程度网络,且同时支持片上网络参数微调的神经网络加速芯片。

2019年1月,Sticker-T入选了集成电路领域最高水平、最权威的固态电路国际会议学术会议ISSCC。这是中国大陆首篇发表的AI芯片ISSCC论文尽管AI芯片已经发展了很长时间,但ISSCC的特点是要求有非常坚实的芯片流片验证结果出来,这将论文发布的门槛提到很高。

当智东西问道Sticker系列IP核是否会考虑对外交付?武通达表示,目前Sticker系列没有对外交付,但他们对这件事持开放态度,未来可能考虑开放一部分Sticker相关IP

清华团队又出新芯片!百度经纬等投资,成果入选国际集成电路顶会

▲Sticker-T神经网络处理器硬件架构

基于Sticker核心,湃方打造了两款产品,一款是面向工业终端应用的AI芯片Tritium 103,另一款是工业视觉边缘计算平台Reactor,形成一端一边的产业布局。

Tritium 103在7月正式流片,经过测试验证已经开始在产品中得到应用,并获得ISLPED设计竞赛奖第一名。

该芯片面向低功耗嵌入式视觉应用,采用台积电65nm工艺,平均功耗不到40mW,平均能效达3.7 TOPS/W支持卷积神经网络、全联接网络等主流模型,可支持设备振噪分析、人脸识别、目标检测、目标识别等常用一维或二维信号处理方法,能与智能MCU匹配,形成“MCU+AI芯片”的硬件架构。

清华团队又出新芯片!百度经纬等投资,成果入选国际集成电路顶会

相比英特尔Movidius芯片,Tritium 103的功耗较之减少约80%,同时芯片能效提升3-4倍。

边缘计算平台Reactor可对常见工业视觉需求进行处理,在实际应用中,Reactor可以作为数据的汇集点进行数据融合,也可以支持工厂中基于摄像头的泄漏检测、入侵检测等图像处理方法。

清华团队又出新芯片!百度经纬等投资,成果入选国际集成电路顶会

围绕端边AI芯片,湃方探索了旋转设备PdM、胎压监测系统等解决方案,以及3D结构光识别、无人机视觉与导航、智能仪表等应用。

为了与计算架构协同优化,湃方还打造了便捷高效的芯片工具链产品Axon。

Axon支持前向量化稀疏优化技术,支持TensorFlow、PyTorch、Caffe、ONNX等多种框架,具有超过75%的超高压缩比,能将运行速度提升5倍以上,同时实现极低的精度损失,还具有一键化部署的特点,支持M系列和A系列CPU以及Sticker系列专用加速芯片。

清华团队又出新芯片!百度经纬等投资,成果入选国际集成电路顶会

量化通常会造成精度损失,而湃方打造了一款模型自动化重训练工具,能在保证准确率几乎不损失的情况下,实现高压缩比。

三、软硬协同,四位一体的全栈式产品矩阵

总体来看,湃方科技聚焦于工业领域赛道,形成了四位一体的产品矩阵。

基于高能效AI芯片和高精度AI算法技术,湃方科技打造湃方星核(AI芯片)、湃方星象(工业智能物联平台)、湃方星云(工业智能管理平台)和湃方星尘(一站式工业智能算法管理),为客户提供了跨品类、全栈式的AIoT智能管理解决方案。

清华团队又出新芯片!百度经纬等投资,成果入选国际集成电路顶会

为什么芯片团队出身的湃方科技,会选择更为复杂的四位一体式产品布局呢?

武通达认为,工业设备市场远未达到成熟状态,整个设备运维大约会是十万亿市场,但目前这一领域的产值仅爬升到几千万的水平,市场覆盖率不到10%,市场处于蓝海。

湃方从7月正式发布工业互联网级产品后,大约在短短几个月的时间内,就拿到石油石化、钢铁、轨道交通等行业大量的订单。武通达在这一领域看到了有足够需求、空间足够大的市场。

据他回忆,他们最早的确寄希望于打造足够好的产品,赋能整个产业。然而随后他们发现,AI芯片虽然势头猛,但在落地一直比较难,AI芯片领域落地好的场景主要在安防和语音,而在更具体的细分领域很难找到落地方向。在他看来,这是因为AI市场本身不是非常成熟。

湃方创始团队意识到,如果只做芯片产品,面临的第一个问题就是没人用、没人会用

于是,湃方团队思考打通一条骨干,这意味着哪怕所有其他东西都抛开,这条骨干线依然可以独立的完成客户的应用需求。

同时湃方还建立有自己的生态体系,比如在硬件层,湃方与许多IoT厂商合作,由他们提供大量多维度不同行业方向的传感器,与湃方的设备进行接入。在实际应用中,湃方团队发现旋转型设备最核心的应用来源于振动、磁力、温度的变化,所以要把这个数据牢牢把握在自己手中,来支持深度学习算法。

目前,湃方科技已形成了成熟的石油石化、工业、制造、交通、军工等行业智能升级解决方案,为中石油、中石化、山东双轮、北京地铁等大中型企业提供了智能升级服务,帮助企业提质、降本、增效、控险的目的。

四、深入了解产业痛点,拒绝唯技术论

尽管湃方是一家不满一岁的年轻公司,但武通达表示,湃方经过了长期积累,厚积薄发,已经形成一系列落地成果。

他主要提及湃方的两点优势:一是掌握先进技术,二是应用向行业融合。

尽管出身于学术派,湃方科技不想闭门造车,并不片面追求AI芯片、算法等技术的高指标。

湃方科技创始团队早在2014年就开始钻研AI芯片,但产业化的非常晚,去年9月正式成立公司,今年7月正式出产品。

自2017年开始前期筹备工作,用了一年余的时间调研客户的实际痛点和重点需求,探索AI与底层到底如何融合,以客户需求为驱动打通技术和实际需求的壁垒。

为此,其团队花了很多时间和精力,深入石油石化等客户的现场去了解客户需求,并与泵厂、电机厂等设备制造商沟通,总结他们最关注的问题是什么,然后将这些信息与AI相融合,最终交付实实在在落地且高性价比的产品及解决方案,为客户带来实际的效益。

清华团队又出新芯片!百度经纬等投资,成果入选国际集成电路顶会

以湃方科技主攻的旋转机械智能化业务为例。旋转型设备是目前工业界的一个动力核心,每年消耗全国电量超过23%。

这一设备存在很多痛点。比如其数量非常庞大,仅是水泵设备就每年新增1.15亿台,数据接近智能手机的水平,市场存量更是超过了10亿台。

另外,旋转型设备的价值分布范围很广,设备应用最多聚集在单价几万到几十万元不等。这些设备的价值不高,很难支持一些几十万元甚至上百万的高额智能检测系统部署费用。

同时,现有检测系统在工厂中部署施工周期数以月计,水泵设备的类型就有上千种,而应用场景需定制有针对性的模型,导致推广起来十分困难。

清华团队又出新芯片!百度经纬等投资,成果入选国际集成电路顶会

面对这些难题,湃方科技打造了旋转设备全生命周期管理系统,通过采集转动设备运行产生的振动、噪声、温升、磁场变化等数据,做边缘智能分析,并发送给云平台,客户可以通过湃方星云App在手机上直观了解泵机健康状态检测的精确分析结果。

武通达表示,选择旋转型设备行业是经过深思熟虑的,因为芯片市场要求附加值足够高、量足够大,而旋转型设备市场足以满足量的需求,如果在这个市场每年占10%或者20%,那就完全足够支撑一款芯片的生态。

在他在看来,AI芯片主要做了两件事:

1、使得边缘节点从原来数据采集的模块,变成了有计算能力的模块。端云协同可将响应速度提升10倍以上。

2、当将能耗做的足够低,设备寿命会大幅延长。采用其边缘计算+高能效AI芯片的方式,设备寿命可从几周提升至2年。

中石油某场站长期被高昂的设备管理成本困扰,湃方科技为其精心打造的设备智能管理系统,内嵌Sticker系列AI芯片,并搭配高精度工业智能算法,场站设备管理员可以通过湃方星云APP实时监测管理设备的运行状况,对设备的启停、工况、故障状态了然于胸。

经过计算,客户的设备管理成本在使用湃方智能管理系统后比之前减少了近30%。

五、打造工业互联网领域核心生态圈

在政策支持下,工业互联网领域基本形成架构,包含泛AI平台、产业互联网平台、垂直应用生态服务上。

武通达表示,湃方的定位于垂直设备供应及运维厂商,会向客户提供某类应用的全套解决方案以及技术支持。

从市场架构上来看,湃方是工业互联网平台生态的服务提供商之一。

从技术架构上来看,工业互联网是一个复杂系统,融合了硬件、软件、算法、网络、平台、终端应用等要素。

工业互联网离不开AIoT大规模的数据支持,需要终端AIoT芯片做数据底层处理,减少冗余数据的工作负载。武通达认为,AI芯片未来会成为工业互联网非常大的技术基石。

基于AI芯片,湃方致力于以行业前沿技术和解决方案,和工业互联网平台丰富的数据资源和终端客户资源进行互补,共同为终端客户打造全产业链生态闭环。

目前,湃方科技已先后和树根互联、东方国信、海尔COMOSPlat、兆易创新以及中国移动oneNET等行业前沿工业互联网企业打成战略合作意向,打造技术雄厚、资源丰富的跨行业服务闭环,保障客户在生态内实现一站式智能升级。

结语:学术芯陆续走向落地

学术芯片落地战鼓已经敲响,包括清华Sticker系列AI芯片IP核在内,国内国外陆续有一批批前沿芯片研究从学术殿堂走向落地。

我们也期待着这些曾在集成电路学术会议上大放异彩的芯片设计,在进入实际应用后,走出差异化路线,发挥产业价值。