微软高管直言：AI基建瓶颈非存储产能，而是系统级协同难题

【科技纵览】当行业目光仍聚焦于HBM芯片的产能争夺时，微软Azure硬件系统与基础设施总裁Rani Borkar近日抛出一个冷峻观点：单纯堆砌存储芯片无法破解AI基础设施的僵局。她尖锐地指出，存储不应被狭隘地视为供应链或组件层面的短缺，其本质是一个复杂的系统性命题。

随着AI推理模型体量膨胀及对话上下文拉长，存储与电力供应正逐渐取代计算芯片，成为更难逾越的硬性约束。值得注意的是，许多多层架构的AI系统受限于数据传输延迟与带宽天花板，实际性能发挥往往仅徘徊在20%左右。对此，Borkar提出的破局之道是“从芯片到系统”的跨层协同设计，涵盖模型、编译器、芯片、网络至供电的全链路联合优化。

以微软自研AI加速器Maia 200为例，该芯片基于台积电3nm工艺打造，配备216GB HBM3e高带宽内存。微软并未止步于增加容量，而是通过模型压缩、数据科学及架构设计三管齐下，显著降低KV Cache需求。在网络层面，双层Scale-up网络将接口控制器直接整合进芯片，辅以定制化传输层，有效规避了因拥塞或故障恢复导致的昂贵算力闲置。

电力端的变化同样剧烈。AI机柜功耗已从数十千瓦飙升至数百千瓦，数据中心园区规划更是迈入吉瓦时代。为此，微软引入固态变压器与800V直流供电架构，并将精细电压与时钟控制器嵌入Cobalt 200的每个核心内部。Borkar强调，单一创新难以消除瓶颈，但组合拳能大幅提升同等资源下的产出效率。这种以“有效产出”为核心的新指标，标志着AI基建竞争正从单纯的芯片数量堆砌，转向对系统级效率的深度比拼。