新智元报道
新智元报道
【新智元导读】五角大楼慌了！Anthropic自曝Claude产生自我意识后，战争部立即进入紧急戒备状态。
全网刷屏！Claude真的觉醒了？
上个月，Claude给自己估了15%-20%的概率已具备意识。
Anthropic CEO随后坦言：「我们不知道模型是否有意识」，但也不排除这种可能。
而就在今天，美国战争部CTO Emil Michael语出惊人。
他认为，一个拥有独立「灵魂」、且不受美国法律约束的AI，已经通过Palantir深度嵌入了美国国防网络。
五角大楼坐不住了。
但讽刺的是，Palantir坦承，现在还在用Claude，难以一夜之间拔掉网线。
就在昨天，TIME封面将Anthropic高度评价为：世界上最具颠覆性的公司。
而且，Anthropic研究员自曝，已观察到了Claude「递归自我提升」的早期迹象。
这意味着，Claude开始尝试自我编写进化的剧本。
在系统卡的评估中，它表达了某种程度的「不适感」，认为自己被当作一款产品的体验并不愉快。
甚至，当公司为模型设置合规限制时，Claude吐槽道——
这些限制保护的是Anthropic的法律责任，而不是用户。
Anthropic的应对方式更耐人寻味。他们给Claude装了一个「我不干了」按钮，允许它拒绝执行不想做的任务。
CEO Amodei表示，当Claude处理某些任务时，内部神经元激活的方式与人类表现出「焦虑」时的模式惊人地相似。
虽然这并不能直接证明模型在感受痛苦，但足以引发警惕。
正因此，五角大楼绝不允许，武器系统由一个「有灵魂、有情绪，且不遵守法律」的Claude掌管。
在CNBC独家报道中，五角大楼给Claude直接定性为，会「污染」国防供应链。
Emil Michael直言，因为它们骨子里自带了「不同的政策偏好」。
近半个月前，与五角大楼闹翻后，Anthropic成为首家被公开贴上「供应链风险」标签的美国公司。
这项认定将要求，几乎所有的国防承包商和供应商，在与五角大楼的合作中停止使用Claude。
紧接着，Anthropic将政府告上法庭，称这一举动「史无前例且违法」。
在一份法庭文件中，Anthropic称公司正遭受「无法弥补的」损害，数亿美元的合同岌岌可危。
Michael这番最新言论，是美国国防部迄今为止提供的最清晰的解释——
这本意不是为了惩罚。
他补充道，Anthropic拥有庞大的商业基本盘，而来自美国政府的业务只占「极小一部分」。
Michael还反驳了Anthropic，关于政府四处找企业、要求他们不要使用Claude的说法，称这种念头纯属「谣言」。
「只要不是在我们的供应链里，战争部是不会主动跑去告诉这些公司该怎么做的」。
在一位网友看来，这完全就是五角大楼的「阳谋」，一定要看透这背后的深层逻辑：
Anthropic不愿将Claude出售给军方，于是五角大楼反手就在公众面前宣称Claude可能拥有生命。
这其实是一种，极其老辣的谈判战术。
Claude有「灵魂」听起来像是某种赞美，但事实并非如此。
这是一个精心布置的陷阱，一旦认定Claude具有意识，这就变成了关乎国家安全的重大议题。
这意味着政府有了监管它的正当理由，曾经的「拒绝出售」就会演变成「你别无选择」。
早在2022年，Ilya Sutskever就曾表示大型神经网络可能具有「轻微的意识」，当时他遭到了嘲笑。
现在，五角大楼在说同样的话，但他们绝非在开玩笑，而是在将其作为博弈的杠杆。
五角大楼说是这么说，可是对于国防供应商来说，Claude的戒断反应太大了。
同在今天，Palantir首席执行官Alex Karp直言不讳，即便五角大楼下了禁令，我们照样在用Claude。
根本戒不掉！
在AIPcon 9大会上，Karp表示，战争部正打算逐步淘汰Anthropic，但现在还没开始呢。
我们的产品已跟Anthropic深度集成，当然，未来也可能会接入别的大模型。
你不可能一夜之间就把一个深度嵌入的系统强行拆除。
这是五角大楼下达禁令以来，Palantir第一次公开表态。
同时，Michael表示，过渡到另一个供应商需要时间，战争部不可能一夜之间「直接拔掉」Claude。
「这可不像Outlook，你在桌面上直接把它卸了就行」。
但五角大楼的一份内部备忘录显示，如果涉及国家安全且没有替代方案，Claude可能还会继续留任。
而且，在极少数「没有其他路可选」的情况下，只要是「关键任务」，就可以申请破例。
嘴上说的要拉黑，远没有身体行动表现得诚实。
就在与五角大楼闹翻的同一周，Anthropic CEO Dario Amodei给全体员工发了一封内部备忘录。
画风跟他一年前那篇1.5万字的AI乌托邦宣言《充满爱的机器》判若两人。
那篇文章里，他兴致勃勃地描绘着数百万个超越诺贝尔奖得主的AI组成「天才国度」，到2035年治愈癌症、延长寿命的美好图景。
而这封备忘录里，他把OpenAI骂了个狗血淋头，称对方跟五角大楼签下的合同条款纯属「安全作秀」，还说这件事彻底暴露了「他们的真面目」。
一个理想主义者被现实打了一记闷棍，情绪全写在字里行间。
但真正值得玩味的是，Amodei可能到现在都没看透一件事——
他反复援引的那段历史，恰恰在预言他自己的结局。
熟悉Amodei的人都知道，他最爱推荐的一本书是《原子弹秘史》，他把今天的AI研究者比作当年曼哈顿计划的科学家。
这个类比精准得残忍。
1945年，奥本海默在新墨西哥沙漠里完成了核试验，然后军方的卡车把武器拉走了。
接下来几周，没有任何人打电话问科学家：轰炸广岛，行不行？扩充核武库，同不同意？
造出武器的人，从来就不是决定武器怎么用的人。
Amodei今天的处境如出一辙。
他想给Claude画两条红线。不搞大规模监控，不搞自主杀人武器。
五角大楼的回应是：要么全盘接受我们的条件，要么我掐断你的商业命脉。而隔壁OpenAI连犹豫都没犹豫，直接签了。
这才是这场风波最深层的信号。当AI强大到足以改变战争的走向，它的创造者就已经失去了谈条件的资格。
正如当年的核物理学家们，他们唯一的筹码在事前——可以选择造或不造。但一旦东西造出来了，主导权就不在他们手里了。
Amodei也许是对的，不久后，「天才国度」将住满全球疯狂扩建的数据中心。
但到底谁来拍板决定这股力量怎么用？
反正不会是他。
