新智元报道
新智元报道
【新智元导读】AI递归自改进和AI研究自动化正在从概念走向现实。对此，哈萨比斯夜不能寐。
夜不能寐！
哈萨比斯亲口承认，现在所有前沿AI实验室都在搞递归自我提升。
但紧接着他又说，将人类完全排除在循环之外所带来的安全风险，令他夜不能寐。
这两句话放一起，你就该警觉了。
那个大多数人视为AI理论幽灵的东西，如今已是地球上每一个严肃实验室正在积极推进的重点。
在上月的谷歌开发者大会上，哈萨比斯表示，人类正站在「奇点山脚」之下，而只剩下短短几年时间为通用人工智能（AGI）的到来做好准备。
下一波AI智能体，应被视为对更强的AI的社会压力测试。
「你可以想象，接下来这一年的智能体时代有点像一次演练，」他说。
我们一直在等待一个「砰」然炸裂的奇点时刻，却没发现它正以一种「软递归」的方式，悄无声息地潜入我们的生活。
哈萨比斯直言：
我们正在目睹的是一种软性自我改进——即这些编程智能体正在让工程师的效率大大提高。
而根据Anthropic披露的惊人内部数据：
截至2026年5月，公司超过80%的代码合并请求已经由Claude独立编写。
而在一年多前，这个数字还仅仅是个位数。
想象一下，一个曾经需要你手把手教的孩子，现在不仅接管了家里的所有重活，甚至开始重写自己的基因序列。
这种「自举」（Bootstrapping）带来的生产力跃升，令人眩晕。
目前，Anthropic工程师的人均代码合并量是2024年的8倍。
这意味着，曾经需要一个顶尖团队磨合一个月的工程项目，现在在几台服务器的低吟中，三天就能交付。
人类曾经以为自己是手握教鞭的导师，后来发现，我们只是在为一场快到看不见残影的进化提供电费。
Anthropic联创、AI思想家Jack Clark提出了一个犀利的观点：
AI已经跨越了工程领域最耗时的「苦力活」（Perspiration）阶段。
在过去的编程世界里，找Bug是程序员的噩梦。
但现在，攻守之势异也。
数据显示，在安全研究任务中，Claude Agents的修复成功率高达97%，而人类专家的成功率仅为23%。
人类专家要1周，智能体只要几小时！
这意味着在「纠错」和「优化」这两个进化的核心环节上，人类的大脑已经成了整个研发链条中最大的「低级摩擦力」。
你引以为傲的十年工程经验，在0.1秒内迭代上千次的硅基思维面前，脆弱得像一把木制的戒尺。
当AI跨过递归的「卢比孔河」，它就不再是人类手中的手术刀，它正在变成「实验室本身」。
在指数级的递归面前，人类的勤奋，正在变成阻碍研发速度的累赘。
但这不仅仅是一场效率的狂欢。
Jack Clark预警，到2027-2028年，我们可能看到完全脱离人类参与的端到端AI研发。
这正是危险所在。
一旦进入递归循环，AI研发就像接入了一个高额的「利息系统」。
如果初始的「对齐（Alignment）」目标存在哪怕0.01%的偏差，在经历一千个递归周期后，这个偏差就会由于复利效应，演变成一个人类根本无法理解的行为深渊。
当AI开始自己建造自己，人类的角色正在急速萎缩。
我们正从那个挥汗如雨的「建筑师」，退化成一个只能在屏幕前瑟瑟发抖、反复确认「它还听话吗」的「监考员」。
DeepMind的掌门人Demis Hassabis直言不讳：「我们正站在奇点的山脚下。」
目前的局面像极了一场最高层级的「囚徒困境」。
Anthropic正在呼吁全球范围内的「可验证暂停」，希望能为人类争取一点安全研究的时间。
但这近乎天方夜谭。
在递归自改进的军备竞赛中，谁先停下来，谁就可能永远丧失对AGI的主导权。
每一家实验室都在一边高喊「安全第一」，一边紧握着递归加速的油门不放。
因为大家都知道，山顶上只有一个座位。
参考资料：
编辑：大卫
