抢天才还是拼算力？前 Llama 推理负责人详解 AI 的真实天花板

本文来自PRO会员通讯内容，文末关注「机器之心PRO会员」，查看更多专题解读。

前 Llama 推理负责人 Ross Taylor 在接受 Interconnects 的播客访谈中直言，「目前 AI 竞赛中的混乱和挖角都只是噪声，最终都会被指数级算力所淹没」。他以这一判断为起点，阐释了算力指数曲线如何决定 AI 竞赛的天花板，为什么在实验中保持系统性与坚持比单纯挖掘天才更重要，以及为什么高质量的评估才是真正推动模型能力前沿的关键。

01  前沿实验室天天「翻烧饼」式换方向，为何进展却没被拖慢？

1、Ross Taylor 指出，前沿实验室经常出现研究方向频繁切换的现象，这在整个行业都很普遍。但他认为，这种混乱并不会真正拖慢整体进展。只要实验室仍能产出高质量模型，组织上的杂乱就依然有价值。

① 他强调，对于整个行业而言，组织上的摩擦只是噪音，不会改变宏观趋势。

② 不过他也提醒道，对于身处其中的研究者来说，1-2 年的延误可能会对个人职业轨迹造成重大影响。

2、在 Ross 看来，行业的瓶颈不在管理，而在算力。所谓「让模型思考得更久、更深」，在工程上几乎可以直接翻译成「扩大 GPU/TPU 规模」。

3、他举例道，近期 IMO（国际数学奥林匹克竞赛）上三个实验室各用不同方法几乎同时跨过关键性能门槛，从历史的长镜头来看，人们并不会记住这些方法本身，而只会看到这是算力达到临界点的自然结果。

4、因此，组织的混乱带来的延迟或许是线性或次线性的，但算力增长是指数级的，显然后者对于整体行业来说比前者更具决定性。

5、当资本热潮退去、算力增速放缓时，行业或许会面临增长乏力的危机。然而 Ross 认为，只要 AI 的实际价值持续释放，行业就不会真正崩盘。

① 以 GPT-3.5 为例，它一方面暴露了推理能力的不足，另一方面却在创意写作等任务上展示了巨大潜力。这说明 AI 的发展仍在继续，未来空间依然广阔。

02  天才的天价「转会」，真能换来下一次模型跃迁吗？

从宏观层面来看，算力主导行业天花板，组织上的混乱只是一种「噪音」。但在微观层面，即具体到实验室的竞争中，组织效率依然决定了谁能更快跑出成果。

1、Ross Taylor 指出，社交媒体上铺天盖地的「天才研究员天价跳槽」新闻，把公众注意力集中在「谁是最聪明的大脑」。在 Twitter 上，这些转会甚至被渲染成「AI 行业的 NFL 选秀」...