算力重构，AI进入“交付为王”时代

过去三年，大模型的爆发式增长让全行业陷入了同一个焦虑——算力不够用。从GPT-3.5到今天的多模态大模型，训练所需的算力规模每年以数倍甚至十倍的速度攀升。到了2026年，这个问题的内涵已发生深刻转变：“它已经从‘有没有’的问题，变成了‘对不对’的问题。”吴玉华在致辞中指出。

算力的供给结构能否真正匹配产业落地的需求，正成为企业面临的核心挑战。一方面，训练侧向推理侧的重心迁移正在加速。大量的行业应用场景对推理效率和推理成本提出了更苛刻的要求。另一方面，以HBM、CPO为代表的先进硬件，以万卡集群调度为代表的系统工程，以存算一体为代表的架构创新，正在从不同的技术路径重新定义算力的内涵。

“重构算力不是简单地堆叠更多芯片，而是从架构、互联、存储、调度、封装到生态的全链路，进行一次结构性的重构。”吴玉华表示。

当前AI发展面临三大核心挑战：超大参数、超长文本，需要超节点解决专家并行的协同效率。壁仞科技通过打造软硬协同的超节点体系攻克Agentic AI的算力难题，提供极致性价比的Token解决方案。硬件方面包括Chiplet架构的BR2xx大算力GPU、高速低延时的超节点互连协议BLink2.0以及三级超节点产品矩阵灵活满足不同客户需求，尤其是首次推出NPO光互连、分布式解耦架构超节点。软件方面包括五级故障防护体系、以KV cache为中心的Token工厂方案、异构混推、SUPACODE编程智能体等。

当下大模型、AI for Science、智能体等推动AI算力需求每年增长4～10 倍，远超摩尔定律带来的硬件性能每年1.3–1.5倍的增速，传统集群在扩展性、可靠性、能耗层面存在明显约束，难以实现单体十万卡集群部署，无法满足FP64至INT8全精度通用计算的发展需求。中科曙光推出曙光8000 ，是中国首个全国产十万卡AI超集群，采用原生超智融合架构，围绕芯片、计算、存储、网络、散热、应用、服务打造一体化系统，搭载6款国产核心芯片，搭配自研scaleFabric高速网络与ParaStor分布式存储，构建适配十万卡规模的全链路国产化算力底座。

“曙光8000采用了全球首创的的柜体设计，让单位计算单元的算力密度提高至传统超节点的20倍以上；自研scaleFabric类IB的RDMA无损高速网络，支撑万卡级以上规模超节点超集群稳定运行；配套ParaStor分布式存储斩获1O500生产型全节点、10节点第一；整机可部署单体十万卡超智融合AI集群，适配科学计算、大模型、AI for Science等多元业务，赋能万卡级以上科学研究、大规模训练及高通量推理。依托国家超算互联网和国家一体化算网，曙光8000上线首周即已爆满，日均作业量达到29万件，单日峰值作业量突破50万件，加速国产高端算力惠及千行百业。” 刘冠川分享道。

长上下文、多轮对话、多智能体场景下KV Cache规模持续暴涨，现有架构受限于HBM容量与存储时延，KV频繁驱逐重算推高Token推理成本，显存、内存、通用存储三层架构间缺少专用中间记忆层，分布式推理集群算力与存储调度割裂，推理成本成为规模化落地阻碍。“因此，KV Cache不再是‘临时副产品’，而是必须被专门管理的一等数据资产。”贾淑芸总结道。翼华科技打造DPU驱动的Context Memory节点方案，依托图南系列网卡、培风图南AI-DPU双芯产品，实现KV Cache、向量数据库相关硬件卸载，补齐推理存储断层。

依托DPU卸载能力，整套系统可实现KV资源跨请求复用、会话持久断点续推，兼容主流推理框架无需改造模型；实测场景中推理成本仅为原有基线的45%，填补显存与通用存储之间的性能成本缺口，打通跨节点KV高速流转通道，化解算力存储资源割裂痛点，为Agent长上下文业务提供高性价比底层支撑。

AI产业发展重心正向推理侧转移，Token调用量指数攀升，预计2028年全球推理算力需求将达到训练算力的3～5倍。当前行业存在算力架构适配弱、Token生成成本高昂、异构算力调度割裂、本地AI落地困难等痛点，算力与模型无法协同，难以自主稳定输出Token。

云天励飞以自研第五代GPNPU芯片、超节点架构，打造国产化推理算力底座。

罗忆表示：“我们依托五层蛋糕全景架构与1001计划，围绕PD分离、AFN分离、超节点等大技术方向优化MoE模型吞吐，短期内力争实现Token性价比数倍提升。”

AI智能体迎来万亿级市场，2035年全球AI智能体数量将达9000亿，算力、存储需求暴涨，传统冯诺依曼2D架构存在带宽、能效、先进工艺三重瓶颈，难以兼顾高性能、低功耗、低成本三大需求。微纳核芯首创3D-CIM三维存算一体架构，融合SRAM存内计算、3D近存、RISC-V异构三条技术路线，推出PCle-CIM、LP-CIM两大推理芯片系列，并牵头研制全球首个RV-CIM™标准。

叶乐表示：“这套全自研方案依托国产工艺即可实现先进工艺等效算力密度，算力密度提升4倍、计算能效提升5至10倍，芯片综合成本大幅下降；适配AI手机、AI PC、服务器等云边端全场景，打破海外GPU生态垄断，解决大模型推理带宽与算力桎梏。”

当前半导体行业研发复杂度持续攀升，竞争从芯片制程、性能等单点指标转向系统交付速度，行业存在需求迭代更快、资源准备更慢、知识复用不足、治理边界后置四大问题。张玮表示：“只有资源、工程、决策和学习四个时钟一起变快，AI才会从局部提效转化为企业级生产力。”基于此，百度智能云推出文心快码Baidu Comate面向芯片AI Coding打造完整体系，依托私域上下文引擎、编程智能体、MCP工具链路，适配多类芯片研发工程师的编码工作场景。

这套芯片AI Coding方案设置四道工程判断闸门规范任务落地，适配EDA脚本、RTL、固件等多类开发语言，联动仿真、编译、签核工具完成结果验收；依托企业Skill、私域上下文引擎归集代码、文档与专家经验，支持私有化、混合云部署，将单人使用的AI编程助手转化为组织统一可用的研发能力，真正把AI的速度，变成产业的速度。

后摩尔时代，先进制程成本持续攀升，芯片面积受限，面积墙、功耗墙、存储墙等瓶颈日益突出，传统单芯片DTCO设计模式难以适配异构集成需求。2.5D/3D堆叠芯粒设计横跨系统架构、物理实现、多物理场仿真、多芯片测试与验证等环节，行业亟需面向3D IC的STCO全流程协同EDA工具链。硅芯科技依托自研3Sheng Integration Platform及长期积累的3D IC设计Know-how，推出Chips Z——面向2.5D/3D Chiplet设计的AI EDA Agent。

赵毅分享道：“这套工具链打通了单Die DTCO向多Die STCO设计转型的关键路径，兼容2.5D、3D等先进封装互连工艺，并通过AI Agent辅助需求解析、工具调度、设计寻优与结果反馈，实现多物理场协同仿真、多Die容错自测及跨层级LVS/DRC验证，提升3D IC异构集成设计的流程协同与迭代效率，覆盖Logic+HBM、硅光集成等多类应用场景，构建国产先进封装EDA设计闭环。”

AI行业的下半场从数字世界的云端向物理世界的端侧延展，端侧AI则是AI深度落地全品类物理场景、推动整个物理AI产业规模化普及的核心必选项，而实体智能设备必须在硬件本地独立完成感知、推理、决策的全链路闭环，端侧AI芯片是落地必选项。“为旌科技推出统一‘视觉+ AI’异构SoC芯片底座，自研ISP视觉、NPU端侧AI双引擎，围绕PPA极致平衡设计，搭建Visinex Inside三步走产品战略，覆盖智慧视觉、智能驾驶、机器人三大端侧场景。”赵敏俊表示道。

该ISP+NPU+SoC统一平台采用模块化底层架构，可规避研发资源重复消耗，依托跨场景技术复用实现规模降本，支持算法算力无缝平移；端侧芯片拥有毫秒级本地闭环、超低功耗、数据本地处理的特性，弥补云端算力的短板，让实体设备本地完成感知、推理、决策全链路闭环，推动全域端侧智能在物理AI场景规模化落地。

当前AI算力普遍面临"存储墙"瓶颈，数据搬运的功耗与延迟代价高达计算本身的百倍。传统GPU多级缓存架构算力利用率偏低，专用存算方案又受限于生态短板，难以规模化商用。

针对这一痛点，亿铸科技推出全数字3D DRAM通用存算一体AI芯片，并系统提出通用存算三大定律：一是搬运代价定律，即计算架构的革命本质是数据搬运的革命；二是通用边界定律，专用计算的效率优势终将被通用生态抹平；三是异构终局定律，存算一体的终局必然是专用与通用单元的异构协同。

亿铸科技联合创始人兼总裁徐芳介绍，该芯片遵循三大定律，融合3D DRAM与存算一体架构，存算IP与通用计算异构融合，原生兼容CUDA生态，覆盖工作站、一体机、分布式集群等多类硬件形态。

依托通用存算一体架构，该方案可从底层消除数据搬运损耗，大幅降低大模型推理的单位成本，高效支撑长上下文、MoE、多智能体等前沿模型落地。

词元循环经济亟需端侧本地推理闭环，传统2D内存带宽低、功耗高、内存利用率不足，GPU、NPU方案成本与功耗难以适配终端普及目标。迈特芯推出3D-TPU（MetaChip）实现端侧推理芯片，通过全国产工艺实现600GBps大带宽、80%内存利用率，支持9B、27B端侧稠密高智商大模型，覆盖Pad、NAS盒子、机器人等AI+新硬件，并配套端侧MetaClaw多场景智能体，赋能人人文明AI，实现数字服务平权。

迈特芯的3D-TPU提供端侧10GB内存，推理带宽600GBps，带宽利用率80%，推理Token 吞吐最高80-tokens/s，功耗控制在平均5W，及成本低于千元。其2D-TPU业已点亮，仅消耗1W功耗支持小终端（眼镜、手表）0.6B大模型。迈特芯通过其一系列端侧TPU架构以及端侧智能体技术，实现内存带宽利用率数倍提升，流畅运行各类端侧大模型，打通端到端词元推理效率，破解传统终端内存墙功耗瓶颈，助力我国终端智能体的规模化普及。