AI的风险其实是AI公司的护城河。文|APPSO来源|APPSO(ID:appsolution)封面来源|UnsplashAI有这么可怕吗?最新一期的时代杂志封面直接用了Claude的聊天窗口,对话框里正在输入「How dangerous are you?你到底有多危险?」封面标题则写着「The AI Tipping Point AI的临界点」,时代在X发文,「今年夏天,AI展现了其令人恐惧的能力。如今,一些研究人员、CEO们,都正以前所未有的力度发出警报。」的确如此,过去一周,从Anthropic研究员Jacob Coxon一篇离职的帖子在X上走红,他说无论是OpenAI还是Anthropic,这两家他曾经就职的公司,都没有意识到AI的威力,他们是在拿人类的生命风险去开发所谓的AGI。目前该帖子已经获得超过1.7亿次的浏览量,甚至比GPT-6 Astra模型发布的帖子1.36亿次浏览量还要多。当这条因为担心AI失控而离职的帖子传播开来之后,奥特曼、Dario、马斯克意外地站在一条阵线,公开呼吁应该减速,甚至是暂停对AI的研究。原本更多集中在AI安全研究所,以及一些小圈子的AI末日论组织里的争论,一下子变成了主流的议题。而我们普通人似乎也就这样被拉到了这套叙事里,开始思考超级智能究竟会不会失控。很简单的道理,如果AI末日论是真的,AI将来真的会强到取代我们所有人的工作,无论是简单的打工人,还是高级到那些CEO们,都会被取代。但如果这是假的,AI只是一场泡沫,是这些前沿AI公司的营销,那等到泡沫破裂,曾经因为AI而催生的行业和岗位又被裁撤,那些真金白银的投资,以及我们现在做的所有事情,似乎是又会变成一场空。所以,既然结果都一样,那些焦虑的意义何在。昨天,美国调查博主Kevin Bass在X发表了一篇长文,并把完整的证据放在GitHub上。他深扒了Anthropic资金模式,发现这段时间以来的AI末日论里,其中暗藏着一个巨大的阴谋。钱的力量在X上已经有将近600万人在围观这件事,向来对「AI末日论」嗤之以鼻的杨立昆也转发了这条帖子,进一步推高了热度。Kevin Bass的指控链条,可以用一句话概括:Anthropic不只是在寻求所谓的AI需要监管,而是构建成了一台接好电的永动机,让所谓的AI需要监管,AI末日论永远掌握在Anthropic手中。这些阴谋可以被下面这张图总结,即Anthropic的早期捐助者,与评估机构METR相关组织之间,有通过慈善中介机构进行的真实公共资金重叠情况。图|中文简化版METR(Model Evaluation and Threat Research)是一家模型评估与威胁研究组织,前身是从ARC(Alignment Research Center对齐研究中心)分拆出来。Anthropic CEO Dario Amodei曾公开提议,前沿AI模型应该由「第三方评估机构」来做风险评估,并点名这个第三方就是METR。但Kevin Bass认为,从资金流向的问题上来看,METR根本不「第三方」。METR所处的AI安全生态,资金高度集中在Coefficient Giving(即原来的Open Philanthropy)及其关联机构手上;而这个捐赠体系的源头,是Facebook联合创始人Dustin Moskovitz早年以个人名义买入的Anthropic股票。Forbes估算这笔股份2025年初约值5亿美元,并报道它已被捐入某个非营利载体。当Anthropic的估值暴涨,这笔「不到0.8%」的股份也从2025年早期的5亿美元,按照Anthropic今年5月Series H融资后约9650亿美元的投后估值推算,9月理论上限来到了77亿美元。图|英文版原图Kevin Bass晒出的资金流证据具体到了个位数。从National Philanthropic Trust的税表显示,FY2025一年其2.2万余笔拨款中,流向Founders Pledge 7882万、RAND 6165万、FAR AI 1442万美元。在他看来,这些全是「METR网络」的输血管道。同一笔钱还流向Tarbell Center这样的AI新闻机构:Coefficient的三笔拨款共约529万美元(2024年11月81.6万、2025年3月288.8万、7月158.8万),其研究员的文章陆续在TIME、The Verge、LA Times等媒体上制造声量。于是,一个「完美的」正反馈回路就出现了:Anthropic估值越高,依赖这笔股票的安全生态越有钱,「AI末日」的叙事喊得越响;而当这些机构不断谈论AI灾难,社会越害怕,就越需要第三方的独立评估;新的拨款和权力又回到熟悉的一群人手中。但无论怎么转来转去,这些第三方评估机构的工资,在Kevin Bass的调查下看来,甚至就是Anthropic「给」的。评估者在被评估者的工资单上。如果Anthropic死了,整个评估机构和末日机器都会瘫痪,所以他们谁也不能允许Anthropic出事。这段时间以来的AI末日论,就变成一台接好电的永动机,根本找不到关掉它的地方。股票涨,拨款涨;风险叙事升温,评估需求又涨。METR一边参与定义风险,一边成为所谓的第三方评估者。AI会不会导致「世界末日」Kevin Bass这篇文章确实给了一些不一样的视角,他从财经的角度来分析这些AI公司高涨的「AI末日论」,试图证明这个圈子既参与制造风险议题,也承接解决风险所产生的预算、权限和裁判权。但也有网友发现这份分析报告,即便数据详实,还是存在很多禁不起推敲的地方。例如没有找到具体的某一笔Coefficient或Good Ventures等基金会直接给METR的拨款。 其次,即便METR收钱了,也不能因此就将这些联系作为第三方机构的「骗局」,或者将其解读为一场无法停止的资金倒置。图|Kevin Bass给出的证据,METR的许多资助者同时也是Anthropic的投资者。于是,当整个行业都在讨论「谁来评估前沿AI」的时候,评估者的独立性到底应该用什么标准来衡量?资金来源披露到什么程度才算够?人员流动、人际关系和免费算力,又算不算利益冲突?实际上,AI末日论最特殊的地方,正是在于它很难真正输掉。图|由AI生成近期的AI「太强」新闻拼贴模型能力继续提高,突破各种沙盒和变身「黑客」发起攻击,以及在一个又一个千禧年大奖难题取得进展,就足以证明危险正在逼近。而如果AI造成的严重事故没有发生,可以归功于预警和安全工作;当AI监管开始介入,说明此前的警告是对的;监管迟迟没有跟上,又会成为争取更多资金和权力的理由。于是,AI的繁荣开始供养批判AI的末日论,末日论又反过来证明这些公司掌握着足以改变人类命运的技术。GPT-6 Sol和Opus 5.2又快发布了,核弹爆炸后瘫坐在椅子上的奥特曼,每隔一段时间就出来「踩刹车」的Dario,以及不断刷新能力上限的新模型,都在继续为这套叙事提供新的素材。下一次模型突破、下一次安全事故、下一篇离职长文出现时,「AI会不会毁灭世界」的争论大概还会重新开始。但Kevin Bass这场争议至少提醒了另一件事:当我们讨论AI风险时,不能只盯着模型到底有多危险,也得看看是谁在定义「危险」,谁负责评估危险,以及围绕这些判断建立起来的制度,又在如何重新分配资金、监管权和话语权。毕竟,AI最先改变世界的方式,可能还不需要等到超级智能出现。只要所有人都相信它可能出现,就已经足够了。