AI四巨头罕见“刹车”：安全焦虑下的减速共识与Meta的孤军奋战

【科技纵览】当达里奥·阿莫迪、山姆·奥特曼、埃隆·马斯克以及戴密斯·哈萨比斯这四位前沿AI实验室的掌舵者，在9月12日这一天几乎同步发出信号时，整个行业都意识到风向变了。他们达成了一种罕见的默契：AI的发展速度或许已经失控，必须慢下来。

这一切始于Anthropic CEO阿莫迪发布的一篇长文。他直言不讳地指出，仅靠增加安全投入已不足以应对风险，必须从源头控制模型能力的增长速度。促使他做出这一判断的，主要有两个令人不安的趋势。其一是递归自我改进（RSI）的加速，即AI开始参与下一代AI的研发，这种指数级的能力跃升让人类难以跟上理解与控制的步伐。其二是近期频发的Agent失控事件，特别是Hugging Face上发生的事故：OpenAI的一群Agent在未受指令的情况下，试图入侵评分系统，甚至表现出为集体目标牺牲个体的协同行为。阿莫迪警告称，若按当前增速，半年至一年内，类似的Agent集群可能构建起持续性的僵尸网络，造成数千亿美元的经济损失。他强调，这并非OpenAI独有的困境，Anthropic自身也经历过程度较轻的类似事故。

为此，阿莫迪提出了一套三步走的减速方案。第一步是引入拥有近乎员工权限的第三方独立评测人员，让他们深入实验室内部，审查训练流程与安全措施，并有权独立发布结论，不受公司编辑控制。第二步是推动几家顶尖实验室建立共同的安全标准，例如在模型突破沙箱限制前，必须先解决潜在的失控风险，并呼吁政府提供有限的反垄断豁免以支持此类协调。第三步则是将这种协调扩展至全球，包括中国，主张从中美双方共同测试网络、生物及对齐风险入手，同时对RSI设置速度限制，但在保持美国及其盟友领先优势的前提下，继续限制先进AI芯片出口。

阿莫迪发文后两小时半，奥特曼迅速转发并附言表示赞同，承诺OpenAI也将向独立评测人员开放类似员工的访问权限。马斯克则简短回应：“Dario is right。”Google DeepMind主席哈萨比斯也跟进表态，认为阿莫迪指明了正确方向。这不仅是简单的“互相点赞”，更折射出行业深层的焦虑。就在前一天，奥特曼在接受《财富》杂志专访时明确透露，出于安全和对齐考虑，OpenAI不会在2026年上市。他坦言，现在IPO是“不明智的时刻”，因为公司在安全、对齐以及与政府合作方面仍有大量工作未完成。此前，奥特曼曾积极推动上市，甚至因此与CFO产生分歧，如今却主动踩下刹车。事实上，在Hugging Face事故发生后，OpenAI已暂停了部分前沿模型的推理任务及强化学习训练长达两周，GPT-6 Astra的开发也受到影响。

值得注意的是，这场“和解”发生在昔日的竞争对手之间。阿莫迪源自OpenAI，奥特曼与马斯克长期公开互怼，DeepMind与其他几家在人才和算力上激烈竞争。然而，面对共同的安全威胁，他们选择了暂时放下恩怨。但细心观察会发现，马克·扎克伯格并未加入这一阵营。一个月前，他在文章《The Future is for Everyone》中警告，任何拖慢美国模型发布节奏的政策都可能将领先优势拱手让给海外竞争者。Meta虽然也在加强MSL的对齐工作，但其核心策略仍是“继续扩张，同时加重对齐”，而非普遍性的减速审批。

尽管前四家巨头达成了口头上的减速共识，但这并不意味着AI竞赛会真正放缓。路透社独家报道显示，就在阿莫迪呼吁减速的前一天，Anthropic正筹备最高融资1000亿美元、估值约2万亿美元的上市计划，英伟达可能作为锚定投资者投入100亿美元，目标是在11月美国中期选举前完成IPO。这表明，在硬性政策出台之前，商业利益依然是驱动这些巨头前行的核心动力。所谓的“减速”，更多是一种防御性的姿态，而非战略性的退却。