AI芯片领域，三大不同阵营

科技行业正执迷于一项核心指标：超大规模企业和政府所积累的 GPU 原始数量。一种普遍的观点认为，谁拥有最多的处理器，谁就是下一场科技革命（即 AI 竞赛）的赢家。这种观念人们并不陌生，因为它模仿了以往的科技繁荣时期——当时扩展硬件规模解决了每一个工程瓶颈。然而，这种对显卡的关注忽略了一个更大的问题：当今全球高带宽内存（HBM）的短缺。没有足够的内存，即便是最顶尖的计算集群也将处于闲置状态，无法全速运转，只能等待数据的送达。

最近的研究表明，全球半导体生态系统正面临前所未有的内存芯片赤字，硬件的增长受到了原材料供应的严重限制。另一份关于高带宽内存制造供应的报告发现，全球领先芯片生产商的产能已全部售罄，这使得物理封装和内存分发成了整个 AI 市场面临的严峻挑战。

为了理解这场危机如何重塑全球科技战略，从经典游戏《星际争霸》的角度审视硬件生态系统会大有裨益。芯片领域的格局已裂变为三个截然不同的阵营，每个阵营都遵循着完全不同的哲学和经济策略。

英伟达（Nvidia）可以比作神族（Protoss）阵营。他们打造高端的高科技硬件（即所谓的黄金标准），但价格也极为昂贵。就像神族的系统一样，他们的产品高度集成且效率极高，但其开发需要耗费巨资，并受到严格供应链的限制。在实践中，仅依赖英伟达可以帮助初创企业启动项目、展示创意并制作出初始产品；然而，要将这样的创新推广给数以百万计的日常用户，成本将极其高昂且极不现实。

AMD 扮演着人族（Terran）阵营的角色，提供了一种基于实用工程构建的平衡且高度适应性强的替代方案。近年来，AMD 开始实施一种类似于人族所使用的 Chiplet（小芯片）设计方案，即把不同的硅元件组合成更大的系统，而不是开发单一的巨大晶圆。

华为代表着虫族（Zerg）阵营，其基础设施建设成本低廉，并凭借本土化可扩展性实现集群部署。在面临严峻地缘政治限制的情况下，华为决定用廉价、大规模的硬件填满其市场细分领域。它不需要在跑分基准上与高端厂商直接竞争，因为它完全可以通过纯粹的数量和本土生态系统来“淹没”问题。这创造了一个可持续的基础设施层，可以在没有任何西方供应链依赖的情况下运行。

而这一切都是在整个行业撞上硬墙的背景下发生的。高带宽内存极其稀缺且昂贵，最重要的是，制造难度极大。一旦人工智能公司在生产环境中部署算法，从财务角度来看，情况就会变得非常现实。推理阶段（即使用算法响应用户查询时）构成了日常持续成本的大部分。在生产环境中，限制你速度的是将模型权重加载到内存中的快慢，而不是芯片的计算能力。

在缺乏内存的情况下，仅依赖高端处理器会变成一种低效的投资资源配置。这意味着公司将仅仅为了维持诸如文本和视觉识别等基础任务的运行，就耗尽所有的资金。从讨论这些基础设施成本的公司董事会内部对话中越来越清楚地看出，我们已经结束了概念验证阶段。为了在成熟的市场环境中实现财务上的生存，企业必须在设计中超越单纯的计算能力，转而关注内存限制。

这些情况使得高效内存系统的开发不再是一个选项，而是由经济现实所决定的必然要求。行业需要摆脱构建消耗数十 GB（甚至数百 GB）内存却仅用于完成高度专业化但依然非常基础的操作的庞大模型。一家公司如果仅为了分流客户或分类数据就使用其最大的产品，就是在浪费本可以用于其他地方的资源。

答案在于在架构内部创造多样性与专业化。通过使用利用系统整体特性的更精细调优的架构，架构师可以超越硬件限制，达到效率的新高度。这包括采用新的调度策略、高效的高速缓存以及充分利用有限可用内存带宽的模型结构。目标已从购买新硬件转向尽可能榨干现有所支配硬件的潜力。模块化小芯片和开源权重模型设计确保了工程团队可以根据经济和地理可用性灵活更换组件，从而使业务运营免疫于硬件稀缺的影响。

来自最新《英伟达 AI 现状报告》的数据显示，86% 的受访者预计会增加技术预算，42% 的高管将优化现有工作流和硬件制造流程作为 2023 年的首要资金投入优先级。各个行业的领袖们正在快速转变方向，不再盲目尝试新颖的方法和进行软件实验。那些能够挺过危机的公司，将是那些掌握了如何以最少投入办成最多事情的法门、从而保护其财务底线免受硬件挤压影响的企业。

*免责声明：本文由作者原创。文章内容系作者个人观点，半导体行业观察转载仅为了传达一种不同的观点，不代表半导体行业观察对该观点赞同或支持，如果有任何异议，欢迎联系半导体行业观察。

加星标⭐️第一时间看推送