AMD推Threadripper Halo Station：本地跑万亿参数AI模型，整机成本或超15万美元

【区角快讯】在算力需求日益本地化的当下，AMD于9月7日正式揭开了Threadripper Halo Station工作站的神秘面纱。这款专为在本地环境运行万亿参数级大型AI模型而打造的“性能怪兽”，其核心动力源自基于Zen 5架构的锐龙Threadripper PRO 9995WX处理器。该芯片采用台积电4nm工艺制程，拥有惊人的96个核心，基础频率设定为2.5GHz，加速频率可达5.4GHz。它不仅配备了96MB L2缓存和384MB L3缓存，还支持8通道DDR5-6400 ECC内存，并提供多达128条PCIe 5.0通道，TDP控制在350W，通过sTR5接口连接主板。

值得注意的是，该系统最多可配置四块Instinct MI350P加速卡，最高支持2TB DDR5内存以及576GB HBM3E显存。此次展示的样机采用了双GPU配置，且两块加速卡均引入了液冷散热方案，以确保高负载下的稳定性。整台工作站本身也采用了液冷散热设计，旨在应对极致算力带来的热量挑战。

Instinct MI350P PCIe加速卡的回归颇具看点，这是AMD时隔四年再度推出PCIe AIC形态的加速卡。该卡为标准双槽厚度，主要面向风冷服务器推理负载。其内部基于CDNA 4架构GPU，加速器复合核心（XCD）采用N3P工艺，I/O核心（IOD）则使用N6工艺。每张卡配备4个XCD模块，每个模块包含32组计算单元，总计128组计算单元、512个矩阵核心。每个XCD拥有2MB L2缓存，最高频率达2200MHz。

在显存方面，IOD提供64通道HBM3E显存接口及128MB AMD Infinity缓存。显存采用4堆栈结构，每堆栈由12层36GB组成，合计144GB，频率达到8Gbps，带宽高达4TB/s。整卡功耗标称为450W，最高可至600W，由单个12V-2 x 6接口供电。

尽管AMD尚未公布Threadripper Halo Station的具体定价及上市时间，但市场估算显示，仅CPU、双GPU和内存的成本就已超过10万美元。若用户选择更高配置并加上其他必要配件，整套系统的价格轻松突破15万美元大关。这一价格门槛，无疑将其定位为顶级科研与企业级AI开发的专业工具。