后摩智能:3D CIM芯片投产,全面押注端侧

半导体芯闻 2026-10-20 18:35
后摩智能:3D CIM芯片投产,全面押注端侧图1
👆如果您希望可以时常见面,欢迎标星🌟收藏哦~

随着大模型从云端加速走向终端,AI芯片的竞争逻辑正在发生变化。


过去,衡量AI芯片性能的核心指标往往是算力规模,而当大模型真正进入个人电脑、智能终端和具身机器人,算力之外的功耗、访存带宽、推理成本以及软件适配能力,正在成为决定产品能否落地的关键因素。


尤其在Agent时代,AI不再只是偶尔响应用户指令的工具,而是需要持续感知、推理和执行任务的智能系统。这意味着,终端设备不仅要能够运行大模型,还必须在有限的功耗和成本预算内,持续提供足够的Token生成能力。


如何突破这一瓶颈,正在催生AI计算架构的新一轮创新。


10月14日,在北京举行的2026大模型赋能智能终端创新实践大会暨后摩智能生态合作伙伴大会上,后摩智能集中披露了其存算一体技术路线、下一代芯片产品规划及软件生态战略。


其中,首款基于3D CIM架构的A20芯片已投产,M6X系列芯片正在研发,目标实现较M50提升3至6倍的综合能力,同时正式宣布开源AI生态软件。


从2D CIM向3D CIM拓展,从单芯片性能提升走向多芯互联与系统扩展,后摩智能正在尝试以存算一体架构为核心,构建面向端边大模型推理的完整算力体系。




端侧AI竞争,正在从算力转向Token效率




“当所有人都在啃算力时,我们选择了啃能效;当整个行业在追逐云和数据中心时,我们选择了相信端边是智能的终局。”后摩智能创始人、CEO吴强在大会上回顾了公司成立六年来的技术选择。


后摩智能:3D CIM芯片投产,全面押注端侧图2


在他看来,端边AI正迎来重要的发展窗口期。一方面,大模型能力持续提升,模型轻量化与推理优化技术快速发展;另一方面,终端芯片的计算能力和能效水平也在不断提高,使越来越复杂的AI任务具备本地运行的可能。


后摩智能联合创始人、产品副总裁信晓旭进一步指出,过去两三年,模型与芯片两大基础技术要素的进步远超预期。以千问系列模型为例,按照其分享的数据,在维持相近智能水平的情况下,Dense模型的规模在过去17个月缩减至原来的约1/8,MoE模型则在约6个月内缩减至原来的1/6。


模型规模的持续优化,意味着过去需要依赖云端大型算力集群完成的部分推理任务,正在获得向终端迁移的机会。但与此同时,AI应用的变化也在提出新的要求。随着Agent逐渐承担更复杂、更连续的任务,终端AI不仅需要具备模型运行能力,还要兼顾响应速度、数据隐私、可靠性和长期运行成本。


在这一背景下,后摩智能提出了一个颇具代表性的战略定位:成为Agent时代“端侧免费Token工厂”的算力底座。


后摩智能:3D CIM芯片投产,全面押注端侧图3


吴强表示,公司希望通过极致能效优化,使端侧Token的边际成本不断趋近于零。这一表述并不意味着AI推理可以真正实现零成本,而是指向一种新的芯片评价体系:在既定成本和功耗约束下,能够持续产生多少有效Token。


信晓旭将后摩智能未来技术演进的核心指标概括为两个维度:


Token/$:单位成本能够产生的Token数量,衡量算力系统的经济效率。


Token/Watt:单位功率对应的Token产出能力,衡量算力系统的能源效率。


这也是端侧AI与云端大规模训练在芯片设计目标上的重要差异。相比单纯追求峰值算力,终端设备往往更在意持续推理性能、实际能耗与整机成本之间的平衡。因此,谁能够以更低的成本、更少的能耗支撑更复杂的模型运行,谁就有机会在下一轮端侧AI竞争中建立优势。




从2D到3D,存算一体进入新阶段




要提升Token效率,首先需要解决计算与存储之间的数据传输瓶颈。


长期以来,传统计算架构中的处理单元与存储单元相对分离,数据需要在两者之间频繁搬运。随着大模型参数规模扩大,权重读取、缓存管理和中间数据访问对系统带宽提出了越来越高的要求。尤其对于大语言模型推理,部分计算阶段的性能瓶颈并不完全来自算术运算能力不足,而是受到存储带宽及数据搬运效率的限制。


这也是HBM近年来迅速成为AI算力产业关键资源的重要原因。


不过,提高存储带宽只是解决问题的一部分。如何进一步降低数据搬运能耗、提高计算单元利用率,同样决定着AI芯片的整体效率。


后摩智能选择的技术方向,是SRAM-CIM(基于SRAM的存算一体)架构。其基本思路是在存储阵列内部或附近完成部分计算操作,缩短数据与计算单元之间的传输路径,从而减少数据搬运带来的时间和能量开销。


在此次大会上,后摩智能进一步明确了以SRAM-CIM为基础的两条技术演进路线:


后摩智能:3D CIM芯片投产,全面押注端侧图4


第一条是2D CIM。通过SRAM-CIM计算架构与传统2D封装技术结合,持续优化计算精度、计算效率和系统性能,重点面向高算力、大存储容量的应用需求。


第二条是3D CIM。将SRAM-CIM计算架构与先进3D封装技术结合,通过垂直互连提高计算与存储之间的数据交换效率,进一步突破高算力系统面临的带宽与能效约束。


与传统3D堆叠方案相比,后摩智能试图在计算架构层面实现更深一步的创新。


信晓旭介绍,部分主流3D堆叠方案通过Hybrid Bonding(混合键合)将DRAM晶粒与逻辑晶粒连接,重点解决计算系统的访存带宽问题。而后摩智能的3D CIM方案则将逻辑计算部分升级为基于SRAM的存算一体架构,使先进封装带来的高带宽优势与存算一体带来的计算能效优势相结合。


换言之,传统3D堆叠更多是在改善“数据如何更快到达计算单元”,而后摩智能希望进一步改变“数据如何参与计算”。


按照公司的规划,3D CIM架构还能够适配DRAM、Flash以及RRAM等不同类型的存储介质,为后续在存储容量、成本和能效之间进行优化提供更多可能。


这一路线并非简单地将现有芯片进行堆叠。当存算一体与3D先进封装结合,芯片设计需要同时权衡计算效率、存储密度、互连带宽、热管理以及封装可靠性。




A20芯片投产,下一代产品矩阵浮出水面




伴随技术路线逐步清晰,后摩智能也披露了更加完整的芯片产品布局。


目前,公司已经量产M30与M50两代存算一体芯片。其中,M50是当前主推的旗舰产品,也是其端边AI商业化落地的重要基础。


在此之外,后摩智能还布局了A20、M6X及A30等新一代产品,分别对应不同的计算性能、功耗预算和终端市场。


最值得关注的是首款基于3D CIM架构的A20。据信晓旭介绍,A20目前已经投产,重点提升访存带宽、推理时延和多芯片扩展能力,最多支持16颗芯片全互联。与此同时,通过进一步优化计算架构,A20的算力利用率目标相较上一代提升50%,重点面向对带宽需求较高的Dense类大模型推理场景。从模型规模来看,A20的目标覆盖范围从3B、4B级别延伸至27B、30B级别,为不同参数规模的模型提供本地部署能力。


如果说A20代表了后摩智能向3D CIM架构的探索,那么M6X系列则承担着现有旗舰产品持续迭代的任务。


据介绍,M6X并非单一芯片,而是面向不同需求规划的系列产品,目前处于研发阶段,也是后摩智能重点投入研发资源的方向之一。M6X的目标综合能力达到现有M50的3至6倍。这一产品路线不仅着眼于性能提升,也强调与现有M50生态的延续性,尽可能保护合作伙伴此前在硬件设计、软件适配和产品开发方面的投入。


此外,后摩智能还在规划A30芯片,定位高算力、低功耗,瞄准出货规模更大的消费级智能终端市场。


由此来看,后摩智能的芯片战略正在从少数旗舰产品向差异化产品矩阵延伸:通过不同的计算架构、封装技术和产品定位,覆盖从轻量级本地智能到复杂大模型推理的不同需求。


在板级产品方面,公司也将继续沿两条方向推进:一方面,持续迭代M.2、MXM等小型化计算模组,满足紧凑型智能终端、桌面设备及具身机器人等场景的空间和功耗要求;另一方面,围绕PCIe标准板卡构建从单芯到多芯的产品体系,通过互联能力扩展系统算力,以适配不同规模的本地大模型部署需求。


按照后摩智能的规划,未来板卡及多芯系统将进一步向数十B、数百B乃至千B级参数模型的本地运行目标拓展。


后摩智能:3D CIM芯片投产,全面押注端侧图5




150多个产品定点背后,软件生态成为新战场




技术路线之外,后摩智能此次大会释放的另一项重要信息,是商业化进展与软件生态开放。


据吴强介绍,经过六年的技术研发与产品迭代,后摩智能已实现两代芯片量产,覆盖四大应用方向,并获得超过150项产品定点。


信晓旭进一步透露,截至2026年8月底,M50芯片已经获得超过150项产品定点。对于一家以新型计算架构切入AI芯片市场的企业而言,这一进展具有一定的产业意义。


新架构芯片的挑战不仅在于能否实现预期的计算效率,更在于能否适配成熟的软件环境、支撑客户完成产品开发,并最终进入实际应用。


从客户技术验证走向产品定点,意味着芯片的应用范围正在扩大。不过,产品定点并不等同于最终规模化出货,其商业化成效仍需要后续量产交付和终端市场反馈来检验。


而要推动更多客户完成这一过程,软件生态的重要性不亚于芯片本身。


在此次大会上,后摩智能宣布正式开源AI生态软件,将过去约三年在模型适配、推理优化及应用开发过程中积累的部分能力向开发者开放。


从整体架构来看,其软件体系分为基础软件栈与生态软件栈。


其中,以“大道”工具链为核心的基础软件栈主要面向底层芯片开发与性能优化;生态软件则覆盖推理框架、领域开发套件、ModelZoo、中间件工具以及应用样例五个层面。


据介绍,后摩智能已围绕vLLM、llama.cpp、SGLang等主流推理框架开展适配与优化,并针对具身智能、语音交互和边缘算力部署等场景提供相应开发套件。


在模型支持方面,其ModelZoo已覆盖大语言模型、多模态、语音、视频及具身智能等不同领域,为合作伙伴提供可复用的模型资源。


此次开源的生态软件还包括“揽月”推理框架等组件,目标是降低AI模型从开发环境迁移到实际终端产品时面临的适配成本。


与此同时,M50已完成与x86、Arm、RISC-V等主流CPU架构的适配,并支持Windows、Ubuntu、Android、开源鸿蒙及部分国产操作系统。


从产业角度看,后摩智能正在尝试解决一个现实问题:芯片具备算力只是第一步,开发者能否低成本调用算力,才决定新架构能否真正扩大市场。


对于终端设备厂商而言,如果每引入一款AI芯片,都需要重新完成模型移植、算子优化和软件调试,产品开发周期与工程成本便可能抵消部分硬件能效优势。


因此,开放工具链、推理框架及参考设计,不仅是生态策略,也是芯片企业降低客户导入成本、提高平台黏性的重要手段。




从芯片供应商走向端侧AI算力平台




值得关注的是,在明确技术和产品战略的同时,后摩智能也进一步划定了自身在产业链中的定位。


信晓旭表示,公司将长期聚焦底层计算架构、存算一体芯片及编译工具链,不进入整机及上层应用市场。对于合作伙伴,后摩智能将持续提供软硬件、算法和应用解决方案的参考设计,同时从产品定义阶段参与协同开发,帮助终端厂商缩短产品上市周期。


这一选择体现出后摩智能试图建立的产业分工模式:自身聚焦底层算力与开发平台,将终端产品创新和具体场景商业化交给产业链合作伙伴。




写在最后




可以看到,AI芯片的竞争正从单纯的计算性能比拼,延伸至计算与存储的协同效率,再进一步走向软硬件平台与产业生态的综合竞争。


后摩智能此次集中披露的技术与产品路线,正是这一变化的缩影。随着端侧大模型应用逐渐深入,存算一体的真正价值,也将从实验室中的能效指标,转向真实终端中的Token成本与可规模化交付能力。


点这里👆加关注,锁定更多原创内容


*免责声明:文章内容系作者个人观点,半导体芯闻转载仅为了传达一种不同的观点,不代表半导体芯闻对该观点赞同或支持,如果有任何异议,欢迎联系我们。

推荐阅读

后摩智能:3D CIM芯片投产,全面押注端侧图6

喜欢我们的内容就点“在看”分享给小伙伴哦~后摩智能:3D CIM芯片投产,全面押注端侧图7

后摩智能:3D CIM芯片投产,全面押注端侧图8

关于科技区角:国内科技展会垂直内容策划服务商,提供从论坛内容全案策划、会展市场化IP打造到精准专业观众一站式邀约服务,以产业内容吸引高质量B端人群,打通展会从议题设计、演讲嘉宾邀约、宣传预热、精准邀观到供需对接全链路。
声明:内容取材于网络,仅代表作者观点,如有内容违规问题,请联系处理。
芯片
more
Science Corporation完成首例斯塔加特病患者视力恢复芯片植入
NVIDIA 与半导体领军企业携手推进 AI 在芯片设计与制造领域的应用,助力实现 AI 定义的晶圆厂
博世拿下千万套订单,地平线芯片出海,Mobileye怎么办?
爱芯元智AX8860:256 TOPS、128GB内存,国产AI芯片开始争夺端边侧现场算力
汽车芯片公司,完成融资,估值超170亿
欧洲芯片法案2.0,7条建议!
玄铁·践行|一颗开放架构的芯片,如何在产线、机器人和边缘算力上“跑起来”
理想芯片公司完成 16.25 亿元融资,投后估值 171 亿元
黄仁勋:AI芯片订单几乎每天涌入
英伟达,投了个芯片竞对!
Copyright © 2025-成都区角科技有限公司
蜀ICP备2025143415号-1
  
川公网安备51015602001305号