物理AI时代,分立AI加速器开启边缘算力升级新路径
过去数年,边缘芯片行业盛行高度集成化设计,CPU、ISP、NPU等计算单元全部整合在单颗SoC内部,摄像机、机器人等全新开发设备采用集成方案,能够减少芯片间的数据搬运,更好控制功耗与物料成本,是增量硬件的优选方案。
但随着物理AI落地加速,工业控制器、监控摄像头、网关、机器人控制器等大量已经部署完成的存量设备,硬件设计定型,原生算力不足以支撑视觉Transformer、大语言模型LLM、视觉语言模型VLM等新型AI任务。如果替换整套主SoC,硬件改版成本高、开发周期漫长。在此背景下,**独立AI加速器(分立NPU/dNPU)**重新成为行业热点,通过PCIe、USB等总线外挂协处理芯片,不用重新设计主板,就可以给现有设备拓展AI算力,破解存量设备智能化改造难题。
多家海内外企业已经推出商业化独立AI加速器产品。安霸发布X7芯片,将自家CVflow AI引擎从SoC中拆分出来作为独立协处理器,功耗控制在2‑5W,无需改动原有散热与电源,做成标准M.2 2280硬件形态,适配摄像机、工业网关、无人机等设备升级改造,帮助传统设备完成向高级视觉模型的迭代升级。
恩智浦完成对Kinara收购之后,把Ara系列独立NPU纳入物理AI产品矩阵。Ara‑1算力可达6eTOPS,支持多AI模型零延迟切换,适配低延迟嵌入式设备;Ara240最高算力40eTOPS,依靠大片内内存、高带宽架构,能够在边缘本地运行生成式AI、LLM与VLM模型,兼顾低时延与数据本地隐私保护能力。
被Microchip收购的以色列企业Hailo主打无DRAM架构独立NPU。Hailo‑8、Hailo‑10H两款芯片,摆脱对外部DRAM存储依赖,既降低供应链风险,又减少内存访问带来的功耗开销,可运行大型多模态模型,已经收获上百家行业客户,广泛对接各类边缘硬件平台。
韩国企业DeepX推出DX‑M1M独立AI处理器,INT8算力25TOPS,典型功耗3W,搭载LPDDR4x内存,依靠PCIe接口对接主机,侧重优化每瓦推理性能,面向机器人、智慧城市场景落地,同时与车企、国内科技企业开展项目合作。
国内厂商瑞芯微也布局独立AI协处理器赛道,RK1828拥有20TOPS INT8算力,板载最高5GB大容量片上DRAM,内存带宽最高1TB/s,适配大参数本地模型;芯片搭载RISC‑V内核,兼容主流AI开发框架,具备PCIe、USB丰富外设接口。官方已经完成Qwen、InternVL、YOLO等主流大模型与视觉模型适配,给国产边缘设备提供独立算力升级方案。
独立AI加速器走红,核心源于存量设备智能化改造的市场刚需。大量已经投产的工业、交通、零售硬件在设计之初并未预想到如今复杂的AI推理需求。一台设备往往需要并发运行多个检测识别模型,同时叠加Transformer、本地大模型任务。如果全部重新改版硬件,时间与资金成本压力巨大。外挂独立加速器,可以仅补强AI算力,主处理器继续负责系统管控、外设调度工作,实现算力模块“模块化升级”,逻辑类似PC时代独立显卡的升级思路。
当然分立方案并非万能。文章同时指出,针对从零开始研发的增量全新系统,集成SoC依旧具备优势,可以规避跨芯片的数据传输带宽损耗。独立AI加速器的定位,更多作为存量设备补齐物理AI能力的重要补充方案。
展望产业发展,物理AI持续向实体经济渗透,会催生更多已部署设备的算力改造需求。模块化、可外挂、低改造成本的独立AI加速器,将成为边缘芯片市场一条重要的发展分支,和高集成SoC形成互补,共同支撑边缘AI大规模落地。
声明:本站内容均为原创,转载或引用本文请注明出处并保留原文链接。
