芝能智芯出品MI400 系列, AMD 开始按 AI 工作负载来组织芯片。如果说MI300X 证明了 AMD 可以做出有竞争力的产品,但软件生态和客户心智的差距仍然明显。
Hot Chips 2026 上亮相的 MI455X(属于 MI400 系列),AMD 开始按 AI 推理和训练的实际数据流,重新设计计算、缓存、内存和数据搬运。

MI455X 升级了计算核心、缓存层次和内存接口,并继续使用 AMD 的先进封装,在大模型训练和推理中,让每瓦性能和总拥有成本具备与 NVIDIA 正面竞争的理由。
大模型运算中,计算单元经常在等待权重和激活值从内存到达。MI455X 升级了缓存与内存子系统,目的是让更多数据留在离计算更近的位置,减少穿越封装和外部内存的次数。

这和 NVIDIA、Intel 在同一届大会上的判断一致,AMD 选择的路线是加大片上缓存、优化内存控制器,并通过封装提高内存与计算之间的带宽。
从 Hot Chips 的演讲结构能看出,AMD 把相当篇幅放在缓存层次、内存带宽和数据搬运效率上,不再一味堆核心数和频率。MI455X 瞄准真实模型下的 Token 吞吐,把发力点从峰值 FLOPS 榜单移开。
传统 GPU 里,数据在不同内存层级之间搬运,往往需要通用计算单元参与调度,或者依赖固定的 DMA 引擎。
MI455X 加入了硬件加速的数据搬运机制,目标是让数据在 HBM、片上缓存和计算单元之间流动时,更少占用计算核心,也减少软件调度的延迟。
大模型推理中,KV Cache 的读写、权重的预取、激活值的跨层传递,都在持续消耗带宽和功耗。如果数据搬运可以由专用硬件高效完成,计算单元就能把更多时间花在矩阵乘法上。
AMD 之外还有其他路线,NVIDIA 在 Rubin 上也强化了数据移动和缓存管理,Intel Crescent Island 则用 LPDDR5X 大容量走了另一条路。
MI455X 把数据搬运作为独立的硬件创新点来讲,说明 AMD 已经意识到:AI 芯片的竞争,正在从“计算核心”扩展到“数据通路”。

ROCm.AI:AMD软件短板的关键一仗
硬件再强,没有成熟的软件栈也无法转化为客户采购。AMD 在 Hot Chips 上重点展示了 ROCm.AI,声称在 MI455X 上带来领先性能。这是 AMD 必须补的课。
过去 ROCm 也能跑,短板在开发者体验、框架兼容、算子覆盖和长期维护,这些和 CUDA 有差距。客户选择 NVIDIA,很多时候看重 CUDA 生态带来的迁移和调试便利,硬件绝对性能反而是其次。
ROCm.AI 如果能在主流大模型框架(PyTorch、vLLM、TensorRT-LLM 等)上提供开箱即用的性能,并且持续维护,AMD 才有机会在云厂商和企业客户那里拿到更多份额。但软件生态的追赶以年计,一次发布会解决不了。

AMD的机会在"第二供应商"
对中国市场而言,MI455X 提供了一个有竞争力的第二选择。云厂商、政企和科研机构在算力建设中,越来越需要避免单一供应商锁定。
AMD 如果能在硬件性能、软件兼容和供货稳定性上达到可用门槛,就有机会在"第二供应商"的位置上拿到可观份额。
NVIDIA 的 CUDA 生态、NVLink 机架级方案和完整的软件工具链,构成了很深的护城河。MI455X 单卡性能即使接近,客户在迁移模型、优化推理和维护集群时,仍然要付出额外成本。
AMD 的机会在于那些对成本敏感、对多供应商有刚需、并且有能力做软件适配的客户。
MI455X 谈不上颠覆 NVIDIA,但它代表了 AMD 在 AI 加速器市场提供一个有竞争力的产品。