芯东西(公众号:aichip001)
作者 |  陈骏达
编辑 |  漠影

芯东西8月13日报道,今年以来,端侧AI的热度正在持续攀升,AI手机、AI PC密集上新,具身智能站上了风口,机器人、无人机、工业边缘设备都在争夺“本地智能”的入场券。

弗若斯特沙利文预测,全球端侧AI市场规模将从2025年的3219亿元跃升至2029年的1.2万亿元,年复合增长率达40%;IDC则预计,到2028年中国个人AI终端出货量将达到1.47亿台,渗透率突破53%。

热度攀升之下,为这些应用场景提供算力支撑的端侧芯片企业们,开始认真思考一个问题:什么样的芯片,才配得上端侧AI?

今天,无锡创企诚恒微召开新品发布会,正式推出旗舰一体化AI SoC——CH3715。这颗芯片最大的特点,是在单颗芯片内装下了“感知→理解→决策→控制”的完整闭环。

发布会前,芯东西与诚恒微CEO楚立斌进行了一场深入对话,聊了聊端侧AI的拐点、这颗芯片的设计取舍,以及一家初创芯片公司的落地方法论。

两年造出旗舰SoC,这家无锡创企想让端侧AI在一颗芯片上跑通闭环

▲诚恒微CEO楚立斌

一、端侧智能拐点已至,“拼装式”硬件范式亟需迭代

我们与楚立斌的对话从一个根本问题开始:端侧AI到底是不是伪命题?

行业里确实有一种相反的观点,云端算力越来越大、越来越便宜,终端只要做好连接就够了。楚立斌的回应很直接:如果“终端只要连云就行”的逻辑成立,我们就不需要智能手机和AI PC这些本地算力了,但事实恰好相反。

在他看来,端侧AI的价值是刚性的。比如,机器人控制、无人机等场景要求毫秒级响应,而网络的延迟和抖动是物理规律,再快再便宜的网络也解决不了。

在工业、户外现场,设备可能长期处于弱网甚至断网环境,端侧算力是可靠性的底线。而在医疗、金融等领域,敏感数据不可能全部上云,端侧处理是合规的必选项。更不用说海量终端持续上传原始数据带来的网络、云计算和存储成本。

楚立斌认为,最好的产品设计是端云协同,“端侧负责实时响应和隐私保护,云端负责复杂推理和知识更新,各司其职”。

虽然端侧AI的需求正在快速爆发,但支撑它的硬件却还停留在旧范式。目前在光电感知、机器人、无人机和工业边缘设备中,主流方案仍是多芯片拼装:一台设备里往往塞进FPGA、DSP、AI加速卡、主控SoC等四五颗芯片,分别负责图像预处理、信号计算、AI推理和系统控制。

这一传统方案的痛点显而易见。多颗芯片需要独立的电源、存储和散热,硬件结构复杂,图像和传感器数据在芯片间反复搬运,占带宽、增延迟、推高功耗。

此外,不同芯片工具链和接口各异,客户要维护多套软件环境,想增加一路摄像头或一项大模型能力,可能就得重画主板、重做数据链路。再算上外围器件、PCB板层、测试认证和后续维护,综合成本始终降不下来。

行业的共识正在逐渐形成,也就是把多个计算单元整合进一颗芯片。这条路其实早有先例,手机SoC是最成熟的一个,一颗手机旗舰芯片里,CPU、GPU、NPU、ISP甚至基带一应俱全,而目前,智能汽车、端侧AI等行业都在复刻同一逻辑。

CH3715正是这一思路下,集成度做得较高的一个样本。

两年造出旗舰SoC,这家无锡创企想让端侧AI在一颗芯片上跑通闭环

▲CH3715芯片

二、十个计算单元装进一颗芯,视、听、感、思、行全包了

发布会上,CH3715给人的第一眼印象是“满”:一颗芯片里塞进了十个计算单元:CPU、NPU、GPGPU、3D GPU、双ISP、VPU、DPU、FFT加速器、双通用DSP、音频DSP等等,几乎相当于把一台边缘设备的主板搬进了片内。

两年造出旗舰SoC,这家无锡创企想让端侧AI在一颗芯片上跑通闭环

计算这一侧,CH3715搭载4大核+4小核的八核CPU,整体性能约100K DMIPS,负责系统调度和业务逻辑;AI推理的主力是六核NPU,稠密算力48TOPS@INT8,当模型满足2:4结构化稀疏条件时,理论稀疏算力可达96TOPS。

NPU旁边是一颗自研GPGPU,提供1TFLOPS@FP32、16TOPS@INT8的算力,专门承接NPU不擅长的高精度、可编程并行计算;此外还有一颗358GFLOPS@FP32的3D GPU负责图形与3D渲染任务,以及一颗128GFLOPS@FP32的FFT加速器,专攻雷达等场景的数字信号处理。

感知这一侧,双路ISP可以同时处理可见光和红外图像;AI图像增强单元支持4K实时AI降噪和AI超分;硬件CV模块承担双目校正、双光融合、多路全景拼接等视觉任务;独立音频DSP则负责音频降噪、回声消除和3D空间音频处理。

输出这一侧,VPU支持8K@30fps编码、4K@120fps解码,DPU负责显示驱动。互联方面,芯片提供PCIe Gen4、10G万兆以太网、SRIO Gen2、6路MIPI CSI、Camera Link、LVDS等接口。

这一芯片的实测数据更值得关注。发布会上,诚恒微CTO林苍松公布的测试结果显示,在指定模型、精度和软件配置下,CH3715单核NPU(8TOPS)YOLOv5m_640*640可达到90fps,总共6核可以完美支持16路1080P@30fps视频数据实时分析,相较参考平台取得约7倍以上的推理性能;双路1080P指定处理链路的端到端延迟最低约10毫秒

两年造出旗舰SoC,这家无锡创企想让端侧AI在一颗芯片上跑通闭环

诚恒微CTO林苍松

为什么要做这样一颗异构芯片?楚立斌的解释是:端侧智能并不只有神经网络推理。机器人、雷达和多传感器融合系统还需要FFT、高精度浮点、几何计算和控制算法,仅依赖NPU覆盖不了全部负载。

CH3715的技术逻辑可以概括为六步:双ISP与多种传感器接口完成高效采集;AI-ISP与硬件CV模块完成智能增强;六核NPU把“看到了什么”变成“理解了什么”;GPGPU与FFT加速器承接高精度计算;CPU负责系统调度和决策,通过CAN、RS485、GPIO输出控制指令;VPU和DPU完成编码与显示——视、听、感、思、行,闭环全在片内,数据不必在FPGA、DSP、SoC之间反复搬运。

把十个计算单元装进一颗芯片,取舍也随之而来,而且贯穿设计的每个环节。

第一道坎是内存带宽。十个计算单元同时访问DDR,而端侧设备的内存带宽普遍只有30~50GB/s,跟服务器完全不在一个量级。谁先用、谁排队、拥塞时怎么动态调整,这套优先级仲裁和QoS设计,直接决定每个单元能不能拿到足够的“喂料”,是系统架构的核心难题。

第二道坎是功耗。CH3715的做法是把电源管理做到尽可能细的颗粒度:CPU大小核独立电源管理,六核NPU按需开关,GPU拥有独立电压域,全芯片支持时钟门控和电源门控,轻载时关闭闲置资源,重载时动态分配算力和能源,既保性能又保续航。

第三道坎是物理设计。这么多单元挤在一起,时钟同步、信号完整性、散热都是硬骨头,需要多轮布局布线迭代 。“PPA平衡是贯穿芯片设计全流程的基础性问题,基础不牢,上面什么都建立不起来。”楚立斌说。

三、场景、团队、生态:一家初创芯片公司的落地方法论

芯片最终要到真实场景里证明自己,目前,CH3715主要瞄准了三大方向。

最先落地的是智能视觉,也是CH3715的主攻战场,毕竟这颗芯片接近一半的能力,都是围绕“看”来设计的。工业质检是最直接的替代机会之一:过去产线上大量“SoC+算力卡”的组合方案,如今单颗CH3715就能扛下来。

泛安防的需求则更“挑剔”一些,电力行业的变电站巡检要在更复杂的环境里识别更小的目标,高分辨率处理和AI-ISP能力刚好派上用场。还有一些应用超出了常规想象:在与中科院合作的保护区鸟类观测项目中,一个画幅里要装下成千上万只鸟,考验的是对精细目标的检测识别。而在火热的具身智能赛道,团队正与合作伙伴把视觉能力、双目感知和算力,装进封闭场景下的巡检机器人和机器狗。

两年造出旗舰SoC,这家无锡创企想让端侧AI在一颗芯片上跑通闭环

第二个方向是高性能与科学计算。雷达信号处理长期是FPGA和专用DSP的地盘,但搜索雷达、生命探测雷达、无人机导航雷达,都绕不开大量FFT和高精度数字信号处理,这恰好是GPGPU+FFT加速器的用武之地。一颗芯片可以协同承担雷达数据预处理、FFT计算、图像处理和雷视目标关联,设备里就不再需要独立的雷达计算器件。

第三个方向是大模型终端,但这里的定位需要说清楚:CH3715不把大模型当主力,它能跑8B模型但TPS较低,对1.5B、3B模型则可以满足一定的实时性要求,真正的用法是“小模型检测+大模型事后验证”的组合。已有客户在用CH3715做大模型运算盒,把简单任务留在本地运行,省下的token开销和云端成本相当可观。

两年造出旗舰SoC,这家无锡创企想让端侧AI在一颗芯片上跑通闭环

敢把战场铺得这么开,是因为这支团队见过类似的全局。诚恒微2023年在无锡成立,核心团队由业内资深经营者与技术专家领衔,拥有主导数十款芯片开发及量产的全链条经验。

SoC出身的工程师,对两件事最敏感:一是功耗,二是物理设计,“尤其我们关键岗位的人员,对功耗设计和物理设计非常有经验,所以我们能在PPA约束下一次性、无重大bug地把芯片设计出来。”楚立斌说。能把这些专家聚在一起,本身就是公司的核心竞争力。

团队之外,股东结构也为这家初创公司添了一层确定性。2025年8月,A股GPU上市公司景嘉微公告以2.2亿元自有资金增资诚恒微,交易完成后直接持股34.65%,成为控股股东,诚恒微由此纳入上市公司合并报表,股东名单中还有知名产业基金和国有资本的身影。

生态则是另一场硬仗。楚立斌很清楚,客户从其他平台迁移的挑战主要在算法适配、驱动开发和系统集成。诚恒微的解法是一套组合拳:接口定义参考主流SoC软件栈的完整底层SDK;支持ONNX模型转换的自研CZNN推理框架;覆盖分类、检测、分割、跟踪和BEV感知的ModelZoo,ResNet、YOLO、Swin Transformer、BEVFormer等主流模型已完成转化验证;针对已有GPU平台的项目,提供代码迁移、接口适配和性能优化支持。

同步推出的CR1核心模组只有70×70毫米,把CH3715的全部能力连同内存、存储、工业接口封装好,模型和驱动都已适配完成,客户不需要重新设计核心板。楚立斌透露,这套组合能把客户的设计验证周期控制在2~3个月,而从零开始,往往需要6~12个月。

结语:TOPS之外,端侧AI该比点别的了

按照计划,CH3715今年将推进完整可靠性验证、良率爬坡、客户项目导入和软件栈持续完善等四项工作,诚恒微未来的路线图也在展开。

楚立斌告诉我们,在CH3715之后,后续产品将面向具身智能,将针对Transformer、多模态计算和4D BEV感知做架构升级,背后的产品哲学是统一的芯片架构和软件平台,覆盖多个算力区间和应用方向,客户在前一代产品上写的代码,可以平滑移植到下一代。

端侧AI的竞争正在从PPT上的峰值TOPS,转向真实场景里的延迟、功耗和生态。对于成立不到三年的诚恒微来说,CH3715是一次相当完整的亮相:它未必是算力最大的那颗端侧芯片,但可能是把“闭环”这件事儿做的较为透彻的产品。这个思路能走多远,今年Q4量产后的市场会给出答案。