PyTorch只是入口:国产 AI 芯片如何走到十万卡?

半导体产业研究 2026-09-11 15:34

PyTorch只是入口:国产 AI 芯片如何走到十万卡?图1



【内容目录】

一、为什么支持 PyTorch,仍然不能保证芯片跑得好?

二、寒武纪加入 PyTorch,究竟想改变什么?

三、年报能验证国产 AI 芯片交付了什么?

四、从单卡到十万卡,真正考验的是什么?

五、国产与全球,竞争的到底是不是一张卡?

六、什么指标决定客户会不会再次采购? 

引言

9月7日,PyTorch基金会宣布寒武纪成为白金会员;9月9日,京东云披露与摩尔线程等合作伙伴规划建设十万卡级国产智算集群,面向大模型训练、推理、词元生产和具身智能等场景开放算力。

一条消息发生在开发框架,一条消息发生在云端基础设施。它们共同指向国产AI芯片竞争正在发生的变化:市场关注点已经从“芯片能不能用”,转向“能不能被持续部署、规模调用和再次采购”。

PyTorch提供共同入口,十万卡集群代表规模化交付的考题。两者之间还隔着芯片架构、编译、通信、推理、调度和运维,寒武纪入会的意义也在这条链上。

一、为什么支持 PyTorch,仍然不能保证芯片跑得好?

PyTorch只是入口:国产 AI 芯片如何走到十万卡?图2

对于已经上线的模型服务,替换AI芯片的成本往往不在采购价,而在过去的软件投入是否要重新做一遍。模型代码、算子实现、并行策略、内存管理、通信方式和故障处理,都会形成原有平台的工程积累。

PyTorch可以让开发者继续使用熟悉的模型表达和编程接口,但它不会自动生成某种芯片的底层执行能力。新硬件接入PyTorch后,仍要完成算子注册、设备管理、自动求导、混合精度和编译后端等工作。

寒武纪的torch-MLU位于这条链的入口,底层仍依赖NeuWare中的CNToolkit、CNNL、CNCL等组件。开发工具负责构建程序,算子库承担计算,通信库处理多卡数据交换,驱动和运行时负责内存与任务管理。vLLM-MLU则把推理引擎接到MLU平台,处理模型加载、请求调度和缓存等服务问题。

因此,“支持PyTorch”至少有三个层次:模型代码进入后端,常用算子正确执行,新模型和推理引擎持续跟上。第一层解决入口,后两层决定客户是否还要投入工程资源。

性能差异往往发生在开发者看不到的地方。数据怎样进入计算单元,矩阵怎样分块,计算和搬运能否重叠,多张卡怎样同步,都会影响实际吞吐和延迟。增加计算单元不一定能消除访存等待,增加加速卡也不一定能消除通信开销。

寒武纪的triton-linalg项目尝试把Triton中的结构化运算转换为Linalg,保留矩阵乘法、归约等计算含义,让后续编译继续进行分块、融合和布局优化。统一的编程入口因此不必要求所有芯片采用同一种内部架构。

大模型服务还会把问题推向请求调度:预填充更偏计算约束,解码更容易受内存和通信影响。分块预填充、前缀缓存和图模式解决的是不同瓶颈,让模型加载成功与让它稳定运行,是两件事。

二、寒武纪加入 PyTorch,究竟想改变什么?

PyTorch只是入口:国产 AI 芯片如何走到十万卡?图3

寒武纪已经拥有自己的指令集、微架构、编译器、算子库和通信库,加入PyTorch并不是从零开始补软件,而是试图把已有工程能力连接到更广泛的公共框架。

寒武纪在入会公告中提出“Upstream First”,并将编译基础设施、持续集成测试和对设备无关的领域库支持列为后续方向。它想降低的,不只是客户第一次迁移的工作,也包括模型和框架升级时反复发生的维护成本。

但基金会席位不是技术路线决定权。真正值得观察的是,相关改进能否进入上游代码,测试是否覆盖MLU,新版本能否持续通过验证,以及这些改进能否在真实负载中降低迁移和维护成本。

公共框架和自研软件栈也不是替代关系。前者尽量统一开发方式,后者承担硬件差异。接口映射可以减少代码修改,底层编译、算子优化、通信调度和稳定性验证仍然必须完成。

三、年报能验证国产 AI 芯片交付了什么?

PyTorch只是入口:国产 AI 芯片如何走到十万卡?图4

国产AI芯片公司很少在年报中披露“出货多少万片”。更可靠的验证方法,是看卖到了哪一层、收入从哪里来、货处于什么交付阶段,以及客户和供应是否集中。

2025 年收入 64.97 亿元,其中云端产品线 64.77 亿元;边缘产品约 339 万元,IP 授权及软件约 228.87 万元,其他业务约 1466 万元。2026 年上半年收入 59.96 亿元,其中云端产品线约 59.94 亿元。收入几乎全部来自云端硬件和整机,软件尚未形成独立收入池。

这说明软件生态目前首先是硬件销售和项目交付的杠杆:它帮助芯片、板卡和智能整机进入客户生产环境,降低采用和升级阻力,而不是靠软件订阅单独产生大规模收入。

寒武纪的规模化拐点已经出现。2025年归母净利润20.59亿元、扣非净利润17.70亿元;2026年上半年归母净利润23.11亿元、扣非净利润21.66亿元。但增长不等于商业模式已经稳固:上半年经营现金流仅3.11亿元,同比下降65.83%;合同负债约1.88亿元,发出商品约4.65亿元,部分交付仍在收入确认之前。

客户结构也需要继续观察。寒武纪2025年前五客户销售额占88.66%,其中四个是本期新客户。它更接近少数大客户集中导入,而不是市场已经全面铺开。2026年上半年应收账款和合同资产余额前五名客户占比约95%,规模扩张仍伴随客户和回款集中。

供应侧同样集中:寒武纪第一大供应商采购额占全年采购55.34%。这能证明依赖,不能直接推导出晶圆厂身份、先进封装产能或HBM配额。

四、从单卡到十万卡,真正考验的是什么?

PyTorch只是入口:国产 AI 芯片如何走到十万卡?图5

摩尔线程的收入结构说明了另一种国产GPU商业化路径。公司2026年上半年收入17.36亿元,其中云端产品约16.93亿元。云端产品包含板卡、一体机和集群,不能直接换算成GPU卡数。

9月9日,京东云披露与摩尔线程等合作伙伴规划建设十万卡级国产智算集群,并围绕芯片、云平台和模型训练开展协同。这个计划的价值,不只是采购更多GPU,而是把国产GPU带入服务器、网络互联、集群软件、调度平台、数据和模型服务的共同考场。

公开表述使用的是“拟建设”和“规划建设”。因此,它应被理解为规模化应用机会和系统交付考题,不能直接写成十万卡已经完成交付。真正需要等待验证的是集群能否稳定运行、能否向行业开放、能否在训练和推理业务中形成持续使用。

客户不会只问“有没有国产卡”,还会问:验收的是板卡、整机还是集群?新模型适配多久?相同服务要求下的有效吞吐和延迟是多少?故障恢复和下一轮升级返工需要多久?

五、国产与全球,竞争的到底是不是一张卡?


PyTorch只是入口:国产 AI 芯片如何走到十万卡?图6

国内厂商正在从不同位置处理同一笔迁移成本。华为通过torch_npu连接PyTorch与CANN,重点在于框架、编译器、运行时、通信和系统优化;摩尔线程通过torchada、torch_musa和MUSA工具链处理接口迁移与全功能GPU平台化;沐曦通过MXMACA和vLLM-MetaX维护推理引擎与GPU平台的版本衔接;海光的DCU和DTK部署文档则更接近环境打包和交付流程。

放到全球市场,比较对象也不是单一TOPS。NVIDIA把GPU、NVLink、网络、NCCL、TensorRT-LLM和DGX系统组织成闭环;AMD通过ROCm、HIP和Instinct平台争取开放替代;Google TPU把芯片、编译器、PyTorch/XLA和云服务绑定;AWS Neuron则把Trainium与云实例、编译器和运行时放在同一交付体系中。

国产芯片的全球化,目前不宜被写成海外销售闭环已经形成。更现实的第一步,是让国产芯片进入全球开发者正在使用的公共工具链,并在相同模型、精度、吞吐、时延、稳定性和生命周期成本下参与竞争。

六、什么指标决定客户会不会再次采购?

PyTorch只是入口:国产 AI 芯片如何走到十万卡?图7

PyTorch解决的是“能不能接入”,MLU和NeuWare解决的是“能不能跑出效率”,年报解决的是“有没有形成收入和交付”,客户复购解决的则是“这套能力能不能复制”。

寒武纪已经完成从研发公司到云端规模交付的跨越,但软件仍主要承担硬件采用和项目交付的杠杆作用。京东云与摩尔线程的十万卡规划,把国产GPU推向了集群化应用的更高考场。

最终需要观察的,不是基金会席位,也不是出货目标,而是四个结果:新模型适配速度是否持续领先,真实业务中的有效吞吐和时延是否过线,长时间运行和故障恢复是否稳定,客户下一次升级需要返工多少。

当一块芯片能够被客户验收、被云平台持续调用、被模型厂商及时适配,并在下一轮采购中无需重新证明自己,它才真正从“国产替代选项”变成了可复购的计算平台。

  参考资料:(上下滑动可查看):

· 1. PyTorch Foundation:
<https://pytorch.org/blog/cambricon-joins-the-pytorch-foundation-as-a-platinum-member/>
· 2. 中科寒武纪《2025年年度报告》:<https://static.cninfo.com.cn/finalpage/2026-03-13/1225007336.PDF>
· 3. 中科寒武纪《2026年半年度报告》:<https://static.cninfo.com.cn/finalpage/2026-08-08/1225464969.PDF>
· 4. 摩尔线程新闻中心:<https://www.mthreads.com/news>
· 5. PyTorch PrivateUse1文档:<https://docs.pytorch.org/tutorials/advanced/privateuseone.html>
· 6. Cambricon torch-MLU:<https://github.com/Cambricon/torch_mlu>
· 7. Cambricon vLLM-MLU:<https://github.com/Cambricon/vllm-mlu>
· 8. NVIDIA NCCL文档:<https://docs.nvidia.com/deeplearning/nccl/user-guide/docs/overview.html>



         







PyTorch只是入口:国产 AI 芯片如何走到十万卡?图8
PyTorch只是入口:国产 AI 芯片如何走到十万卡?图10

关于科技区角:国内科技展会垂直内容策划服务商,提供从论坛内容全案策划、会展市场化IP打造到精准专业观众一站式邀约服务,以产业内容吸引高质量B端人群,打通展会从议题设计、演讲嘉宾邀约、宣传预热、精准邀观到供需对接全链路。
声明:内容取材于网络,仅代表作者观点,如有内容违规问题,请联系处理。
AI 芯片
more
华为靳玉志谈麒麟9050 Pro回归:六年,涅槃,国产芯片新里程碑
重磅发布|先楫半导体首创国产芯片 “两线 EtherCAT” T1机器人关节完整解决方案
一家初创芯片公司,开发出HBM替代品
卖得越少,涨得越猛?AI正在重塑存储芯片的定价逻辑
加入智能体,EDA能把芯片设计送进“无人值守”时代?
2026年中国PLC行业相关政策、市场规模及发展前景分析:政策与转型双轮驱动持续释放增量,芯片自主化与软件生态构建成破局关键[图]
智驾芯片牌桌坐满人,爱芯M9入场,还能吃得上吗?
谷歌组了一支芯片新团队
iPhone 18与折叠屏Duo亮相背后:苹果罕见上调旧款售价,存储芯片短缺成推手
又一家车厂,自研芯片,抛弃英伟达
Copyright © 2025-成都区角科技有限公司
蜀ICP备2025143415号-1
  
川公网安备51015602001305号