DRAM荒逼疯科技巨头，谷歌竟拆解旧机“捡漏”DDR4内存

【区角快讯】当算力瓶颈逐渐被突破，AI行业的焦虑重心正悄然转移至内存领域。据快科技9月3日消息，持续紧张的DRAM供应已迫使行业巨头采取极端措施，甚至到了拆解旧服务器以回收内存条的地步。

谷歌供应链基础设施高级总监Nikhil Cherian近日披露，高性能内存如今占据了单台AI服务器物料成本的约75%，行业痛点已从算力受限迅速演变为内存受限。为应对这一严峻挑战，谷歌在软硬件两端同步发力。硬件层面，该公司构建了一套内部回收供应链，专门将退役服务器拆解，提取其中尚可使用的DDR4内存模块。Cherian坦言，团队甚至专门设计了硬件转接器，使得上一代DDR4内存能够强行接入新一代AI服务器。这意味着，原本标配DDR5的新机型，在部分场景下不得不“降级”使用回收的DDR4。

软件优化同样未停歇。谷歌通过优化底层函数库、模型架构及KV Cache压缩技术，竭力降低单位算力的内存消耗。今年推出的两款TPU ASIC芯片——面向训练的TPU8t与面向推理的TPU8i，便是典型代表。其中，TPU8i每颗芯片配备288GB HBM3e，提供高达8.6 TB/s的内存带宽，并集成384MB片上SRAM以存储活跃KV缓存，从而减少对外部系统内存的查询依赖。该服务器还采用自研基于Arm架构的Axion处理器替代传统x86主机CPU，依托高速DDR5内存架构处理数据预处理等任务。然而，即便拥有如此先进的架构，谷歌仍被迫在部分环节用回收DDR4替代DDR5，足见当前DRAM短缺之深重。