从“买算力”到“买存力与互连”：一笔50%的“重算税”，正在重分AI硬件的万亿蛋糕

全文摘要

大厂为何砍掉四成GPU预算去买存力？50%“重算税”是怎么烧掉的？

图01：旗舰AI芯片制造成本拆解

先看一张芯片成本单。一颗英伟达B200的制造成本约6,850美元，台积电代工的计算裸片只有1,500美元，不到四分之一；HBM3E与CoWoS封装合计却占了64%。到了Vera Rubin，一台售价约880万美元的整机柜里，光内存就超过200万美元。

图02：不同上下文长度下的KV Cache显存占用

但真正改变采购账本的，是机房里看不见的“重算税”。32路并发下，即便采用MLA压缩的DeepSeek-R1，128K上下文的KV缓存也要549 GB，接近单颗Rubin GPU（288GB）容量的两倍。Agent对话中约30%的时间是用户阅读或调用工具的空档（平均约40秒），显存会在这期间被新请求挤满，旧会话被清出——这是“驱逐即重算”；下一轮请求若被调度到另一台服务器，又得从头算一遍——这是“跨机即重算”。实测显示，缺少共享内存池的集群，超过一半的GPU算力花在重复Prefill上：128卡集群每年白烧200万美元，64K长文本首字延迟长达53秒。

反过来算账：把有效利用率从50%拉回90%以上，同等吞吐就能少买40%–45%的旗舰GPU——Meta引入CXL内存池后，服务器采购直接减少25%。Prefill与Decode拆开后，2026年定制ASIC出货暴增82%；OpenAI与博通合作的700W 3nm芯片Jalapeño，跑DeepSeek-R1的每千瓦吞吐是Blackwell的1.5–1.9倍。省下的钱流向了存储：2027年，DRAM与NAND将占主流云厂组件开支的68%。

图03：产业链各环节代表厂商毛利率重估

存储厂毛利率为何反超芯片厂？英伟达的“3nm底座令”与“3倍晶圆黑洞”

资金涌入，改写了半导体四十年的利润格局。芯片设计公司的毛利率停在70%–75%，美光却把2027财年一季度毛利率指引抬到了85.95%——重资产的存储厂，第一次在毛利率上压过轻资产的芯片设计公司。背后有两个原因。

图04：HBM单栈带宽跨代跃进

•  英伟达的“3nm底座令”：HBM4把接口位宽从十年不变的1024-bit翻倍到2048-bit，三星实测带宽达3.3 TB/s，HBM4E样片已冲到4 TB/s。代价是单栈功耗升至120–160W，原厂用DRAM工艺做的底层逻辑芯片（Base Die）扛不住了。2026年10月，英伟达要求三大原厂为Rubin Ultra定制的HBM一律采用台积电3nm底座。三星罕见让步，还拿出自家一半4nm产能专门造底座，HBM份额从15%回升至38%。

•  “3倍晶圆黑洞”：一颗HBM4有256个Bank、两万多根TSV，同样1 GB容量，消耗的晶圆面积是DDR5的3倍以上。2027年HBM将占三大原厂30%的DRAM投片，却只贡献13%的比特产出。北美大厂已锁定三星2027年八成产能，美光干脆关停消费品牌Crucial全力转产HBM，企业级SSD价格随之暴涨257%。设备端，JEDEC把HBM4高度上限放宽到775微米，16层HBM4得以沿用热压键合，利好韩美半导体与ASMPT，混合键合则顺延至2028年。

怎样消灭“重算税”？每PB不到8万美元的白盒闪存如何颠覆传统存储？

软件先动手。SGLang的基数树在DeepSeek-V4上把缓存命中率提到60.8%，但共享缓存也带来新风险：攻击者能通过首字延迟的细微差异反推其他客户的私有提示词，业界因此普遍引入“缓存加盐”做租户隔离。月之暗面的Mooncake把Prefill与Decode拆到不同机器池，存量老卡承载量翻倍，长文本吞吐提升525%。

图05：G3.5共享上下文层填补容量与延迟鸿沟

硬件上，机柜里多出了一层“G3.5”：它位于本地SSD与传统共享存储之间，容量达PB级、延迟约130微秒，且整个Pod共享。英伟达与MinIO把不到200MB的MemKV引擎直接装进BlueField-4网卡，绕开文件系统，经800G RDMA直写白盒NVMe。8卡H200实测，64K上下文首字延迟从53秒降到703毫秒；并发越过64路的“显存悬崖”后，原生vLLM和纯内存缓存相继崩溃，MemKV的稳态吞吐仍高出196%。

图06：G3.5共享上下文层零拷贝直连架构

成本差距更惊人：1 PB的IBM企业存储报价400万美元，MinIO白盒方案的硬件不到8万美元，却能每年为128卡集群省下200万美元重算税。存储独角兽VAST Data迅速把系统移植进BlueField-4、转型软件订阅，守住约90%的毛利率，拿下CoreWeave 11.7亿美元大单，估值升至300亿美元。

图07：“存力解耦与超节点互连”核心受益链财务兑现

内存被“拆”出芯片之后：三家隐形冠军与降本39.7倍的近存计算

图08：AI三层内存单位容量成本指数

1. SOCAMM2与优群科技：GB200把CPU内存焊死在主板上，坏一颗颗粒就得报废整块主板。Vera Rubin改用可插拔的SOCAMM2模组，体积与功耗只有传统RDIMM的1/3，带宽却是2.5倍，单位成本约为HBM的1/3，AMD随后跟进。每块模组都要配一颗高精度压缩连接器，占据全球半壁江山的优群科技毛利率升至48.23%。

2. MRDIMM与澜起科技：x86服务器转向倍速内存MRDIMM，每根内存条的接口芯片从1颗变为“1颗MRCD+10颗MDB”，价值量翻倍。全球份额第一（36.8%）的澜起科技，2026年净利润预计增长60%至35.8亿元。

3. CXL与近存计算：CXL 4.0内存池的单位成本约为HBM的1/10，龙头Astera Labs二季度营收同比增长104%。更激进的是近存计算：在CXL内存端直接完成注意力求和，只把结果传回GPU。弗吉尼亚大学的CXL KV Server跑满血版DeepSeek-R1，每百万Token硬件成本从24.24美元降到0.61美元，降幅39.7倍。

78层背板难产、单卡突破2千瓦：超节点卡在哪里？

2026年二季度，全球AI后端交换机销售额首次超过前端网络。英伟达凭NVLink Fusion把第三方ASIC纳入自家机柜——客户就算不买英伟达GPU，组超节点也绕不开它的互连。但在物理层面，两道坎摆在眼前：

图09：主流AI芯片单卡功耗与1000W液冷分界线

•  背板与协议：英伟达支持576卡的Kyber机柜卡在78层PCB背板的良率上，量产推迟至2028年。开源阵营UALink的原生交换芯片要到2027年才放量，AMD的Helios机柜只能先借博通Tomahawk 6以太网芯片“隧道”传输。光互连路线已经明确：2027年下半年NPO商用，2028年CPO规模部署。

•  功耗与液冷：进入HBM4世代，Rubin单卡1,400W、AMD MI455X单卡2,250W，全面越过1,000W的风冷上限，整柜功耗达155千瓦。每颗芯片改用独立冷板后，快接头用量增加2–3倍，单柜液冷成本升至70万–100万元，英维克已进入英伟达三大液冷白名单。

HBM落后一代，中国AI产业链靠什么“以存代算、以网补卡”？

HBM九成以上的份额握在韩美三家手里，中国走的是一条系统级突围之路：

1. 算法压缩：DeepSeek MLA把KV显存压缩93.3%，配合Mooncake读写分离，存量老卡与国产芯片的推理吞吐翻倍。

2. 光互连与记忆存储：欧美要到2027年下半年才商用NPO，华为已在2026年9月发布全球首个商用NPO超节点昇腾960——4,096卡，用5,500个光引擎替代4.8万颗光模块，借灵衢总线实现4,096卡内存统一编址。配套的OceanStor M900记忆存储提供64 PB共享容量，通过识别KV数据冷热，让SSD寿命延长16倍，三年免换盘。

3. 本土存储与存算一体：长鑫存储2026年8月底抢先韩美三巨头量产LPDDR6，由小米旗舰首发；9月启动12层HBM3E试产，计划2027年量产，代差缩至2–3年。后摩智能、知存科技、亿铸科技则在成熟制程上做存算一体，能效提升7–10倍，为绕开EUV封锁留下一条后路。

AI算力竞赛的下半场，比的不再是谁买到更多GPU，而是谁能让每一张GPU少做无用功。