公众号记得加星标⭐️,第一时间看推送不会错过。
本周,AMD 在硅谷举办了如今已成为一年一度的“推进人工智能”活动,会上大家热议资金、路线图和产品深度解析等话题。
就像 AMD 首席执行官 Lisa Su 一样,她不仅毫无疑问地将这家芯片制造商从一些自我毁灭的倾向中拯救出来,而且还扩大和深化了其硬件和软件产品线,使其成为人工智能行业巨头英伟达和前 CPU 竞争对手英特尔绝对可靠的替代品,我们将首先更新总潜在市场及其驱动因素,以此作为本次活动的报道开端。
苏姿丰在开幕主题演讲中指出,自2020年以来,人工智能训练工作负载的计算需求每年增长5倍,而且这种增长势头丝毫没有减弱的迹象。这无疑会给大大小小的人工智能模型构建者带来大量的计算资源。但苏姿丰认为,真正的驱动力在于人工智能训练领域即将发生的必然转变——从少数几家公司集中精力进行训练,转向人工智能推理。届时,企业要么通过API租用GenAI模型,要么购买人工智能系统,利用授权或开源模型进行自主推理。
人们早已预料到这种转变,早在GenAI出现之前,几年前的预测就显示,推理最终会比训练消耗3到4倍的计算资源(以及相应的收入)。我们尚未完全实现这一目标,但显然正在朝着这个方向发展。苏姿丰去年在人工智能加速器市场表示,推理和训练的资源大致各占一半,但她预计今年这一比例将更接近60%比40%。而早在2024年,这一比例就约为40%比60%。

我们都想知道的问题是,推理的收入比何时才能达到 2:1、3:1、4:1,甚至 10:1。一旦达到这个目标,就意味着 AI 推理——尤其是生成式 AI 推理,而非传统的机器学习——真正成为企业、超大规模云服务商、云平台建设者和 AI 模型构建者的生产级工作负载。(顺便一提,如果你仔细分析苏姿丰展示的一些图表,并重新构建这些图表背后的数据,你就能得出 AI 训练和推理之间的收入比,甚至可以得出 GPU/XPU 训练和 CPU 加智能体训练之间的收入比。)
苏姿丰展示的全球token消费曲线来自Exponential View 的《State of the AI Economy》,该报告显示了从 2024 年 1 月到今年 2 月,GenAI 模型消费或生成的token数量的月度增长情况:

Exponential View 估计,2 月份每月有高达 35 千万亿个token被消耗或释放,鉴于这种指数级增长趋势,到 7 月底(还有八天),这个数字应该会轻松突破每月 50 千万亿个token。所有人工智能模型构建者、为他们提供服务的超大规模数据中心和云服务提供商,以及在 GenAI 热潮中为自身服务的云服务提供商,都迫切希望这条曲线能够持续上升,从而证明他们今年斥资数千亿美元建设人工智能系统容量的合理性。这条曲线持续增长的唯一途径是拥有更多的机器,但电影《梦幻之地》的反面也始终存在:你建好了,他们却不来。
目前,人工智能处理的需求超过了供应,因此所有关键组件(CPU、GPU、DRAM 内存、闪存、交换机 ASIC、光组件)的价格都在沿着类似的曲线上涨。
作为 AMD 的最高管理者,苏姿丰的职责是乐观地看待未来,包括指数级增长以及高性能计算 (HPC) 和人工智能 (GenAI) 对世界的影响。AMD 在人工智能发展大会上公布的目标市场规模也反映了这一点。
“当我思考人工智能如今的发展现状时,我们看到的最大变化是,我们不再仅仅讨论它可能带来的可能性,”苏姿丰在AMD高管们长达数小时的演讲结束后说道。“我们正在亲眼见证人工智能如何对各行各业乃至我们个人生活的方方面面产生切实而深远的影响。我毕生致力于科技领域,始终坚信高性能计算能够让世界变得更美好,而今天,我对这一点的信念比以往任何时候都更加坚定。在AMD,我们专注于构建技术、制定路线图并建立合作伙伴关系。对于我们超过3万名工程师而言,今天无疑是最激动人心的时刻。这才是人工智能的真正新阶段。我们将赋予人工智能所有工具和能力,使其真正为现实世界带来意义深远的影响。我可以告诉大家,我无比激动能够与你们——我们生态系统中的每一位成员——携手共创这一切。”
和苏一样,我相信人工智能将会产生巨大的影响——事实上,它已经产生了巨大的影响。我甚至同意这种影响的规模。但我几乎可以肯定,我对这种影响的方向以及人工智能力量在世界各地不同文化和经济体中分布不均的看法与苏不同。次要和衍生影响同样重要,而且可能比那些更显而易见的主要影响更为重要。
阐述这些技术及其对文化的影响并非“下一代平台”的职责所在,但我可以向您保证,我们和你们中的许多人一样,日夜都在思考这个问题。就像我们当初研究传统的ModSim高性能计算工作负载或早期机器学习技术一样。我们的工作是审视新技术,并确定或预测它们对IT市场的影响。仅此而已。
以下是苏姿丰日前公布的修订版数据中心AI加速器TAM:

这份预测比2025年6月的预测时间延长了两年,预计2025年至2030年间,人工智能训练和人工智能推理将共同推动市场实现超过45%的复合年增长率,达到1.4万亿美元以上。这些是AMD的内部预测,值得庆幸的是,苏姿丰还提供了人工智能训练和人工智能推理的潜在市场规模(TAM)占比。虽然我们目前只有这两个时间点的数据,但我们可以通过统计像素数量来推算出2026年至2029年这两个时间点之间的数据。
以下是AMD对数据中心CPU市场规模的预测,这一点至关重要,因为许多智能体AI工作负载——例如模型生成代码或执行其他任务的沙箱环境,以及与GPU或XPU推理引擎连接运行大量Python代码的环境——都将在CPU上运行,而不仅仅是GPU或XPU。请看:

苏姿丰再次将全球所有供应商的预期数据中心 CPU 收入来源细分为三类:驱动后台应用程序和数据库以及 Web 基础设施和各种数据分析的通用 CPU;用作 AI 集群节点主机处理器的 CPU;以及运行充满 Python 代码的沙箱的新型智能 AI 集群。
这些智能AI服务器集群与其他两种类型的机器在性能和容量要求上略有不同,它们将推动IT支出中服务器CPU领域的复苏,并带来前所未有的增长和收入水平。前提是这些巨大的市场潜力预期能够真正实现。
苏姿丰还给我们提供了一张可供参考的图表,该图表显示了 AMD 在数据中心、客户端设备和嵌入式设备领域所追求的计算市场总规模:

根据 AMD 的说法,这些类别的总计算 TAM 将在 2025 年至 2030 年间以约 40% 的复合年增长率增长,达到 2 万亿美元以上,而且正如你所看到的,数据中心将比去年占据更大的份额。
好了,有了这些信息,我可以重新整理苏姿丰展示的数据,填补一些空白,然后进行一些分析。这对我来说就是乐趣所在……记住:这是计算引擎芯片的收入规模,而不是包含DRAM、闪存、互连、屏幕、键盘和机箱等在内的完整系统或设备的收入规模。
这里有一个简洁明了的小表格,它将所有内容汇总在一起,并填补了空白,空白部分像往常一样以粗体红色斜体显示:

复合年增长率有点误导人的地方在于,它只计算两个端点之间的直线平均增长率,而无法真正反映中间的变化。但考虑到过去六年数据中心AI加速器和数据中心CPU的实际支出,我们可以更好地补充更广泛的数据,因为更广泛的数据受这两个类别的影响很大,而且必然大于这两个类别之和。
我认为,2026年和2027年全球计算市场规模(TAM)的增长速度将超过40%的复合年增长率(CAGR),2028年增速将放缓至接近40%,然后在2029年和2030年大幅放缓。数据中心市场的增长在未来两年将更高,之后也将逐渐放缓。
这种模式(略有波动)也将在数据中心 AI 训练加速器 TAM 中体现出来,正如您从 AMD 的实际数据中看到的那样,但面向推理的 AI 加速器将成为数据中心增长最快的领域。
这张表格里有几点让我印象深刻。首先,数据中心计算总量极其庞大,从2025年到2030年的六年间,总额高达6.45万亿美元。曾经,客户端设备的计算量远大于数据中心的计算量,但现在情况已经不同了。数据中心计算总量在这六年间是嵌入式系统和客户端计算总量的8.3倍,仅2030年一年就将达到10倍。即使考虑到人工智能PC等技术的发展,这种差距仍在不断扩大。
另一点值得注意的是,即使受 GenAI 工作负载的推动,CPU 支出有所回升,但 AI 加速器的支出仍将远远超过 CPU。从长远来看,物理设备的比例可能达到 1:1,但根据 AMD 的分析,数据中心 AI GPU 和 XPU 的支出将超过数据中心 CPU 的支出。AMD 提供的 TAM 数据显示,到 2025 年,数据中心 GPU 和 XPU 与数据中心 CPU 的比例将达到 7.9 倍,预计 2026 年将达到 6.8 倍,但在接下来的几年里将稳定在 6.4 倍左右,未来六年的平均比例将达到 6.5 倍。
还有一点很有意思:到2026年,人工智能CPU的潜在市场规模将几乎与通用CPU的潜在市场规模相当,而去年这个数字还为零。到2030年,数据中心中人工智能CPU的市场份额将是通用CPU市场份额的5.2倍。是不是很惊人?
可能没有真正意义上的智能AI CPU——它们只是功能组合不同,但没有什么特殊功能——但如果AMD的说法正确,人们肯定会为这些智能沙箱购买大量的CPU。
现在,有趣的地方来了。如果你想从GPU、XPU和CPU中提取AI训练和推理的数据,苏姿丰的数据可以帮你做到这一点。如果你将用于AI训练的GPU和XPU数量,加上用于训练系统的AI主机CPU数量(假设CPU和GPU的比例相同),你会得到过去六年数据中心计算用于训练的累计支出为1.42万亿美元。如果你将推理的GPU和XPU数量,加上它们所在的主机CPU处理器数量,再加上部署在这些智能体AI沙箱集群中的所有CPU数量,你会得到3.82万亿美元。因此,过去六年AI推理计算与AI训练计算的比例为2.7倍。2025年这一比例为1:1,预计2026年将达到1.6倍,到2030年将增长到3.2倍。
推理与训练3:1的比例正是许多人对早期人工智能机器学习时代的预期。如今,GPU比CPU贵得多,而XPU由于采用了HBM堆叠式内存以及连接计算引擎所需的中介层,价格介于两者之间。因此,人工智能系统中GPU/XPU设备与CPU设备的比例最终可能会接近1:1,这是全球所有数据中心所有人工智能工作负载的平均比例。时间会证明一切。
最后一点:AMD 尚未更新其自身的营收预期,但考虑到 2030 年预计 TAM 将达到 6000 亿美元,并且 2025 年至 2030 年间市场规模持续增长,我们有理由相信,AMD 对 2026 年的营收预测可能会随之增长,甚至可能达到到 2030 年的复合年增长率。毕竟,AMD 对客户支出情况的了解非常透彻,因为其在数据中心销售的所有产品的需求都远远大于供应。
*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。
END
今天是《半导体行业观察》为您分享的第4480内容,欢迎关注。
推荐阅读
★
★
★
★
★
★
★
★

加星标⭐️第一时间看推送


