AI“刹车”背后：递归自我改进是技术奇点还是工程幻觉？

【科技纵览】当Anthropic与OpenAI相继释放放缓前沿模型迭代节奏的信号，硅谷似乎正在经历一场集体性的“冷静期”。二级市场对此反应剧烈，英伟达、AMD等半导体巨头股价承压，费城半导体指数盘中下挫近6%。市场担忧的核心在于，支撑AI基础设施高增长的底层逻辑——即算力投入与模型能力线性正相关的假设——遭遇了新的变量。这一变量的源头，指向了一个长期存在于科幻叙事中的概念：递归式自我改进（RSI）。2026年，RSI从理论探讨走向工程实践，成为学术与资本关注的热点。然而，剥离情绪泡沫，AI自进化究竟处于何种阶段？我们与MIT博士、前字节Seed团队成员瞿骜深入交流，试图厘清这一技术交汇点的真实面貌。

RSI并非横空出世的新命题，而是多条技术路线演进后的汇合点。回溯至2019年，强化学习（RL）虽被视为更接近智能本质的路径，但受限于任务复杂度与模型能力，其应用范围狭窄。ChatGPT的出现重塑了语言模型的行动空间，而DeepSeek R1则证明了大规模强化学习在推理领域的潜力。随后，Anthropic Opus 4.5等模型展现了长时间连续工作的能力，使得通过提示词调整完成复杂任务成为常态。代码生成能力的质变，为自我改进提供了关键抓手。当智能体具备强大的编程能力与上下文管理原生特性时，它便能自主完成读码、修改、执行及结果验证的闭环。这种长程任务的可行性，标志着自我改进从概念迈向工程化的前提已初步具备。

然而，当前业界所见的更多是“持续自我改进”，而非严格意义上的RSI。前者指AI在交互中积累经验并更新记忆、工具或工作框架（harness），后者则要求AI参与设计、训练甚至构建下一代系统，包括生成数据、编写GPU内核乃至硬件设计。瞿骜指出，将机器定义得越完整，RSI的门槛便越高。目前的大量实践更适宜被称为持续自我改进，因为工程核心在于验证“变好”的真实性，避免模型因偶然成功而形成错误规律。变化本身若无质量保障，便毫无意义。

在实现自我改进的过程中，单纯依赖上下文记忆的局限性日益凸显。尽管多智能体自动化研究（如CORAL项目）能通过共享信息提升短期表现，但任务拉长后系统易陷入瓶颈。经验若仅停留于上下文而未进入模型权重，便如同人类依靠笔记工作，项目结束后能力并未实质提升。为此，测试时训练（Test-time Training）与自蒸馏等技术被引入，旨在将真实任务中的经验反哺模型。Reef项目的目标正是打通推理与学习的闭环，让每一次纠错都成为下一轮进化的素材。这意味着，推理不应仅是任务终点，更是新经验产生的起点。

自我改进的难度随任务类型而异。对于优化GPU内核等具有明确量化指标的任务，反馈清晰，模型易于通过奖励信号学习最优路径。而在模拟公司经营（如CEO Bench基准测试）等复杂场景中，反馈具有滞后性与多维性，需从长期结果中归因决策优劣。至于写作风格等主观性强的任务，“好”的定义因人而异，模型需内化用户偏好以应对个性化需求。因此，自我改进必须能够处理从数字指标到长期结果再到主观偏好的多样化反馈体系。

关于改进对象的选择，行业存在“改模型”与“改工作框架（harness）”之争。Harness作为一套方法论与规则，能稳定激发模型潜能，类似成熟的工作流程。但有观点认为，Harness无法替代模型的判断力，且当前比较往往基于不同起跑线（开源模型vs闭源最强模型）。瞿骜主张模型与Harness协同进化，二者并非零和博弈。未来Harness可能演变为包含绩效、协作机制的系统，但在涉及开放式判断时，核心仍回归模型本身。更深层的挑战在于元认知：AI需具备判断经验价值的能力，决定将其存入上下文、记忆还是模型权重，这类似于人类区分“记住”与“学会”的认知过程。

随着自我改进的深入，潜在风险亦随之浮现。自蒸馏可能导致模型丢失推理过程中的反思细节，仅保留最终答案；经验库的膨胀可能引发检索效率下降；而路径依赖效应可能使AI固守高概率路径，难以跳出既有思维定势。此外，现实世界缺乏如代码运行般干净的反馈信号，失败原因的多源性使得奖励信号难以精准压缩。即便基础模型再强，也无法在训练阶段覆盖所有部署场景（经验暴露限制），因此持续学习能力不可或缺。

最终，通往RSI的道路不仅取决于技术能力，更受制于权限边界。从代码补全到访问整台电脑，行动空间的扩大提升了AI的自我改进潜力。真正的拐点或许不在于某个基准测试的突破，而在于AI在“制造AI”方面的判断力超越人类研究者之时。然而，权限越大，安全风险越具体。RSI的距离不仅由技术进展定义，更取决于人类社会愿意赋予AI多大的自主权。正如I. J. Good当年预言的智能爆炸，今天的边界划定，依然掌握在人类手中。