Anthropic CEO长文硬刚！自曝雪藏Mythos 4个月，为AI安全自断财路

  新智元报道  

凌晨的硅谷，空气里满是火药味。

就在刚刚，Anthropic掌门人达里奥罕见地在X上破防。

他亲自扔出一篇近千字的硬核长文，正面回击外界对Anthropic最诛心的一句质疑——

你们所谓的AI安全，是不是只是一块用来疯狂敛财的遮羞布？

对此，达里奥竟竟首次透露——

他把自己公司过去一年里「因为安全而主动亏掉的钱」，一笔一笔摊在了台面上。

在一个模型隔几周就可能改写排名的行业，四个月，足够让一轮又一轮新模型登场。

选择等待，很可能让Anthropic牺牲了原本数月领先优势中的相当一部分。

这一次，把达里奥逼出原形的，是AI安全领域知名调查员Nathan Calvin。

几小时前，Calvin的一篇千字檄文，瞬间引爆了整个AI圈。

他拉出了一张长长的清单，刀刀见血地细数了Anthropic过去一年的「九宗罪」。

Calvin的潜台词极其辛辣，别装了，你们只想赶在所有人面前造出超级智能！

这场论战的导火索，原本是一份周末流出的联邦AI安全法案草案。

Calvin和几位政策研究者在读完草案后感到愤怒，认为Anthropic在幕后推动的这份法案看起来像是在呼吁监管，实则暗藏玄机——

它不仅试图架空各州更严厉的法律，还给联邦政府叫停危险AI设定了极高的门槛。

Anthropic联邦事务负责人Anthony Cimino原本想在周末发帖灭火，结果彻底点燃了卡尔文的火药桶。

Calvin直接抛出了一连串灵魂拷问：Anthropic到底是一家什么样的公司？

如果按高管们在公开信里的说法，这是一家随时准备为人类踩刹车的「安全机构」。

就在不久前，达里奥还公开警告称，未来6到12个月内AI集群可能接管整个互联网，呼吁全行业必须放慢脚步。

Calvin冷冷地刺了一刀：如果把上面这9件事换成是OpenAI干的，Anthropic的员工怕是早就跳出来骂街，并把这当成对手「利欲熏心、不顾人类死活」的铁证了。

面对几乎要把公司道德根基掀翻的指控，达里奥没有躲。

在回应的开头，达里奥先展现了一把高情商，感谢了Calvin的监督，但客套完他直接拔刀了。

紧接着，他一口气晒出了9笔让无数硅谷投资人看了都会心梗的「自残式操作」。

这是整篇长文中，信息量最大的一个猛料。

达里奥首次公开承认：早在今年2月，Anthropic就已经训练出了「Mythos级别」的高阶模型。

但Anthropic硬是忍住了。

当时，针对该级别模型的网络安全防御机制还没完全打磨好，他们选择只向极少数合作伙伴开放，专门用于强化网络防御测试。

直到今年6月安全护栏到位，这款模型才正式向公众开放。

整整4个月的领先窗口期，在分秒必争的AI竞赛中，被他们自己亲手掐断了。

达里奥直言，正是因为这4个月的缓冲，许多企业才赶在具备强悍网络攻击能力的AI模型泛滥之前，加固了自己的安全基础设施。

今年6月9日，Anthropic向普通用户推出的Fable 5，就属于这一层级，并配有严格防护。

同次发布的Mythos 5，则先向少量网络防御和基础设施合作伙伴提供部分解除限制的能力。

因此，「雪藏」期间仍有受限使用；6月开放时，也有不同的访问边界。

当然，等待究竟损失了多少收入，又避免了多少风险，他没有给出可量化的账单。

但这个选择至少说明，发布时点本身，已经成了AI安全的一部分。

生物领域的代价，尤其让达里奥难受。他本人就有生物学背景。

他称，公司在生物能力测试中看到了令人担忧的结果，也拦截过潜在的生物武器滥用尝试，因此对高风险用途采取严格防护。

问题是，过滤器很难精准读懂每个人的意图。

把危险请求漏过去，叫漏判；把正常研究拦下来，叫误判。为了尽量减少前者，Anthropic接受了大量后者。

正常研究者因此受挫，竞争对手还会把「限制更少」当成卖点。

这笔成本，用户也在承担。

Anthropic此前的官方说明证实，Fable 5触发生物安全过滤后，会把请求交给能力较弱的模型处理。

8月的更新在公司测试中将生物相关回退减少了约85%，但仍保留对双重用途研究的限制。

另一笔账是监管。

达里奥称，Anthropic推动了加州SB 53等立法，还支持过比最终通过版本更严格的方案。今年6月，他又公开主张，政府应拥有阻止模型发布的权力。

这等于支持外部力量握住自己产品的开关。

最后，是5%股权。就在几天前，Anthropic宣布，拟将公司5%的股份投入公共利益基金，尚待股东批准。公司估值超过指定基准后，每增长50%，董事会还可酌情追加2%。

为什么一家公司坚持安全，却还要拼命买算力、加快研发？

达里奥给出的核心逻辑，叫「race to the top」，向更高标准竞争。

他的判断是，一家处在技术最前沿的公司，通过证明先进AI可以被负责任地开发，才更有能力推动同行提高标准。

Calvin担心的也很直接：如果每一轮竞争都必须赢，安全还能让公司退让多少？

尤其当AI开始参与下一代AI的研发，能力提升越来越快，人类检查问题、补上漏洞的时间，可能越来越紧。

今天，Anthropic愿意等四个月。

下一次，面对更强的模型、更大的订单，还能不能等？

参考资料：

https://x.com/DarioAmodei/status/2112732230124818891?s=20 

https://x.com/_NathanCalvin/status/2112295219765137570?s=20

编辑：桃子