
据 SemiAnalysis 发给客户的纪要(经社交媒体账号 Sean 转述),谷歌已与 AMD 合作,开发其第十代 TPU 中的一款。分析师认为,谷歌看中的可能是 AMD 的 CPU 核心,用于处理 CPU 密集型负载。若属实,这将是 AMD 第一次实质参与定制 AI ASIC 项目,也意味着谷歌在尝试一种新 TPU:自有加速器技术,再配上封装内的通用计算核心。

市场传闻指向 TPU v10
Sean 援引的 SemiAnalysis 客户纪要写道:市场传闻显示,谷歌正与 AMD 合作一个 TPU v10 代项目。尽管 AMD 已有定制芯片团队,此事若成立,将是它第一次真正介入定制 AI ASIC。AMD 在先进封装和 SoIC 上的 IP 较强;CPU IP 也可能是吸引力所在,因为谷歌及其客户正在推动带封装内 CPU 核心的 TPU,以服务强化学习负载。
谷歌已自行做了九代专用 AI 加速器,实际做硅片设计的是博通,加速器架构经验也很丰富。常规 TPU,谷歌几乎不需要 AMD 来设计。因此,AMD 去实现面向推理的 TPU v10i、或面向训练的 V10t 的可能性不高。谷歌要的,更可能是只有 CPU 厂商才具备的能力:CPU IP、可编程逻辑、互连,或某类先进封装技术。
CPU 配比已经在提高
其中 CPU 这一条尤其值得看。SemiAnalysis 称,谷歌和客户正在推动封装内带 CPU 核的 TPU,面向强化学习,也可能覆盖其他 CPU 密集型负载。常规大模型训练仍几乎全靠加速器;但面向推理和智能体模型的强化学习,会在加速器运算周围需要多得多的通用算力。
谷歌已经在最新的面向推理的 TPU 旁增加 CPU。面向推理、推理式任务和强化学习的 TPU 8i 系统,是每两颗 TPU 配一颗谷歌 Axion CPU。相比之下,搭载第七代 TPU 的服务器是每四颗 TPU 配一颗至强 Emerald Rapids。作者还听到一种说法:有些场景下,CPU 与加速器 1:1 才是最优。AI 的未来,对 CPU 的依赖可能比现在预期的更重。
下一步或是把 CPU 核放进封装
把 CPU 核直接做进 TPU 封装,可以看成合理的下一步:缩短通用计算和张量计算的距离,有望提高性能、降低功耗。AMD 这边已经有数据中心级先例——Instinct MI300A 把 x86 和小芯片加速器打在同一套设计里。一种假想的谷歌方案,因此可能是谷歌自己的 TPU 计算小芯片,加上 AMD 的 CPU 和 HBM,由 AMD 做成紧耦合封装。英特尔也有可能入局,谷歌与英特尔本就有多项战略合作;但英特尔没有做过 x86 加加速器的混合数据中心设计。
外网原文作者写明:目前还是消息阶段,AMD 据称参与的具体方式还不清楚。可是,若报道属实,要紧的未必是 AMD 在帮谷歌再做一颗 TPU,而是谷歌在考虑 TPU v10 家族里一款更依赖 CPU 的新成员,专门面向强化学习和智能体负载,AMD 则提供其中一部分构件。
今日推荐:
欢迎扫码报名
