本地部署大模型致内存烧毁？ThinkStation P920用户遭遇硬件极限挑战

【区角快讯】当AI爱好者试图在本地工作站驯服数十亿参数的大模型时，硬件的隐形瓶颈往往比算力更先显露獠牙。近日，海外技术社区用户Future_Fuel_8425分享了一次令人咋舌的“翻车”经历：其在一台2019年款的联想ThinkStation P920上运行Ornith-1.5-35B-A3B模型，短短90分钟内便烧坏了一根DDR4 ECC内存条，随后另一根也在重度使用8至9天后报错失效。

这台工作站配置颇为硬核，搭载双路至强处理器、RTX 5070 Ti 16GB显卡以及128GB DDR4 ECC内存（由16根8GB内存条组成）。此前半年，该用户一直平稳运行20B及以下的小模型，数据完全驻留显存，即便高负载也未出岔子。然而，因数据库任务需求切换至35B大模型后，部分数据溢出至系统内存，随即引发灾难性后果。日志显示第8插槽ECC错误堆积，拔除后虽暂时恢复，但隐患未除。

值得注意的是，用户强调CPU温度未超80°C，GPU也鲜少突破65°C，且配有辅助散热，所有内存均为同批次匹配条。他推测这是老化严重导致无法承受高强度连续读取。但从专业角度看，消费级DDR4并非为长时间顺序读取设计，加之内存散热条件有限，高温与高负载叠加才是元凶。这一案例警示我们，本地部署大模型不仅考验算力，更对内存带宽与稳定性提出了严苛要求，盲目扩容或许只会加速硬件报废。