谷歌TPU，为何拆分？核心人物回应！

Alphabet入股联发科引发市场关注，Google下一代AI基建又将如何与台湾供应链合作？首度来台受访的Google技术长暨AI基础建设资深副总裁瓦赫达特（Amin Vahdat）虽未多谈个别合作案，却反覆强调一个关键词：“肩并肩（shoulder to shoulder）”。从芯片测试到机架设计，台湾供应链正走向更前端的共同设计。

谷歌（Google）技术长暨AI基础建设资深副总裁瓦赫达特（Amin Vahdat）于今日（9/2）来台参加SEMICON Taiwan 2026“大师论坛暨全球生态系高峰会”，除发表演讲，也在会后首度接受台湾媒体提问。

瓦赫达特可说是谷歌TPU与AI硬件战略的核心操盘手，过去15年来一路参与、主导谷歌AI基础建设发展，去年底更晋升为AI基础建设首席技术长，直接向执行长皮查伊（Sundar Pichai）报告。

也因此，他本次来台行程格外受到市场关注，市场更传出，他在大会前已密访台湾供应链，洽谈TPU伺服器订单。

不过，面对近期市场高度关注的Alphabet入股联发科、台湾供应链合作进展等问题，瓦赫达特在访谈中发言相当谨慎，并未透露太多具体订单与合作细节。但在他的回应中，反覆强调Google对台湾AI供应链角色的重要性。瓦赫达特以“肩并肩”（shoulder to shoulder）形容双方合作模式，并证实Google正扩建台北士林AI基础建设研发中心，办公空间将增加60%，未来在台湾的人才与研发投资仍将持续成长。

另一方面，谈到Google最新一代TPU为何首度将训练与推理芯片拆分，瓦赫达特也透露，这项决策其实早在两年前便已拍板。随着AI工作负载持续增加，他更预告，未来芯片专用化趋势还会持续，甚至在AI Agent兴起后，CPU也可能成为下一波重新设计的重点。

相较于外界关注Google究竟向哪些台厂下单，瓦赫达特更想强调的，是Google与台湾供应链的合作模式已经发生根本转变。

“这其实已经不是采购（procurement）与伙伴（partner）的问题了。”他表示，Google与台湾厂商早已进入深度协同设计（co-design）阶段，而且这样的合作正逐月、逐季、逐年加速。 “如果没有与台湾伙伴进行深度的协同设计，我们今天不可能打造出这样的基础建设与运算平台。”

瓦赫达特透露，Google目前正与多家台湾合作伙伴，就下一代产品进行深度讨论，合作什至已延伸至机架层级（rack level）的端到端架构设计。他特别提到，从设计如何量产、如何提高可靠性，到整体工程执行能力，台湾供应链展现出的专业让他印象深刻。

不只如此，台湾团队在Google AI硬件开发流程中，也扮演极为前线的角色。瓦赫达特指出，许多Google的设计与制造工作都在台湾进行，而当芯片从台积电产线下线后，往往就是由台湾团队第一时间进行bring-up与测试工作，近乎24小时与Google及合作伙伴“肩并肩”作业，确保芯片正常运作，并尽快交到软件开发团队手中。 “你无法想像，当第一批芯片从产线下来时，大家有多期待前面三、四颗能够正常运作。”他说。

台湾原先就是Google在美国以外最大的硬件研发基地，如今随着AI基础建设持续扩张，Google也将同步加码台湾研发布局。瓦赫达特证实，Google将台北士林AI基础建设研发中心的办公空间扩大60%，而且预期未来团队规模仍将持续成长。

至于市场近期另一大关注焦点，则是联发科日前完成一笔39亿美元的海外可转换公司债发行，其中英伟达（NVIDIA）认购35亿美元，Alphabet也参与认购剩余额度，确切投资金额并未公开揭露。

面对媒体询问，Google为何决定投资联发科，以及这笔投资对Google AI基础建设策略有何意义，瓦赫达特并未进一步揭露具体策略。 “联发科跟我们许多台湾伙伴一样，是强力的合作伙伴，我们很荣幸能在公司多个层面与他们合作。”他说，“对我们来说，这是一个投资一家优秀公司的机会。”对于投资金额、背后策略考量，以及这笔投资是否与双方在TPU等AI芯片上的合作有更直接关联，瓦赫达特则未再进一步说明。

今年4月，Google在Cloud Next云端大会上，首度将第八代TPU拆分为两款独立芯片：专攻超大规模训练的TPU 8t，以及锁定高并发推理的TPU 8i。

会后联访中，媒体询问训练与推理芯片如今正式“分家”，是否代表客制化芯片未来将持续朝更细分的专用领域发展？

对此，瓦赫达特给出肯定答案，直言这样的趋势“在某种程度上是不可避免的”。他解释，Google大约在两年前就已判断，训练与推理两类工作负载的需求规模，已经大到值得分别投入资源打造专用芯片，因此做出将两者拆分的决策。背后的判断标准并不复杂：当特定工作负载的市场规模足够大，为其打造专用芯片所带来的效能与能源效率提升，就足以产生足够高的投资报酬率（ROI）。

如今Google也正持续评估，未来是否有其他工作负载，同样值得投入资源进行芯片专用化。其中，随着AI Agent兴起，“CPU”可能就是下一个值得押注的方向。

瓦赫达特指出，Agent运作时需要大量进行数据搬移与任务调度，强调低延迟、高频率的通讯能力。现在甚至已经出现昂贵的TPU、GPU完成自身工作后，必须等待CPU处理下一阶段任务的情况。 “问题是，我们如何打造专门用于低延迟、高频率通讯的系统，来调度这些Agent？”

这也意味着，随着AI Agent逐步成为新的重要工作负载，CPU的重要性可能再次提升，而针对Agent数据调度需求打造的专用CPU，也可能成为Google下一步评估的方向。

除了芯片持续专用化，瓦赫达特也描绘出Google眼中下一阶段AI硬件架构的竞争方向。 “运算很便宜，搬移数据才昂贵（Computing is cheap. Moving data is expensive.）”他说。

随着AI模型与算力规模持续膨胀，下一阶段的架构创新，不只是打造更强大的芯片，而是如何让数据尽可能靠近运算单元，减少数据在芯片、伺服器与系统间搬移所带来的功耗与延迟。他指出，数据在系统中移动时，不仅需要耗费大量能源，也可能因传输路径壅塞而必须经过多个缓冲节点，进一步拉长延迟。

因此，未来AI硬件架构的一大关键，将是如何透过新的系统设计，尽可能降低数据搬移需求。这也是Google近年持续强调“全端协同设计”（full-stack co-design）的原因。从芯片、机架、数据中心，到能源与网路，Google希望不再将数据中心视为单纯容纳伺服器的建筑，而是把整座数据中心视为一台大型电脑。 “我们说，数据中心就是电脑（The data center is the computer）。”

瓦赫达特解释，Google在设计数据中心时，从一开始就会知道未来TPU长什么样子；设计机架时，也会考量TPU的需求；供电架构同样根据实际运算需求进行设计，而不是打造一套能满足所有客户需求的通用型系统。 “当你采取最低共同标准的设计时，就必须牺牲效率，因为你试图满足所有不同需求。”他说，透过从数据中心到芯片的端到端协同设计，Google有机会取得两倍甚至更高的效率提升。

面对AI算力需求以惊人速度成长，Google眼中的竞争，已经是一场从芯片、封装、机架、网路、液冷，一路延伸到能源与数据中心的系统级竞赛。