首篇AI4AI综述：调研200多篇论文，AI 真的能实现自我迭代优化吗？

从 long horizon 智能体到 recursive self-improvement：从“AI 能做什么”出发，进一步追问“Can AI improve AI?”——AI 能否可靠地改进 AI，并让进步持续积累？

让 AI 帮忙写一段代码，和让 AI 完成一轮 AI 研发，是两件难度不同的事。

后者意味着：提出改进方案、修改代码、启动实验、分析指标、定位失败，再把有效的修改交给下一轮。代码、数据、实验记录和判断必须一路对得上。任何一个环节丢失关键信息，都可能让后续工作偏离最初的目标。

当 AI 开始参与 AI 的研发，真正值得追问的是：它能把一次改进，从想法可靠地推进到经过验证的结果吗？

《AI4AI Survey: From Long-Horizon Agents to Recursive Self-Improvement》围绕这个问题，将 long horizon 智能体、AI4AI、自我改进和 recursive self-improvement 放进同一套分析框架，梳理数百项研究中的能力、评估方法与证据边界。

论文标题： AI4AI Survey: From Long-Horizon Agents to Recursive Self-Improvement

论文链接：https://www.preprints.org/manuscript/202608.2108

项目链接：https://kaiwu5.github.io/Awesome-AI4AI/

项目介绍 / Blog：https://simpleagentlab.com/ai4ai

Harness（RSIHub）：https://github.com/simple-agent-lab/RSIHub

01｜AI 改进 AI，究竟改进了什么？

AI4AI，即 AI for AI，指利用 AI 改进 AI 系统、用于构建或评估 AI 的产物，或产生后续 AI 系统的研发过程。

它的对象可以是训练数据、模型权重、计算基础设施、智能体运行框架、评估器，也可以是研究流程本身。

这里有一个容易混淆的地方：参与 AI 研发，并不自动意味着系统正在自我改进。

例如，智能体优化一个独立模型的训练流程，属于 AI4AI；如果它修改的是自身的组件，才涉及自我改进。进一步走向 recursive self-improvement（RSI），还需要让“产生下一代系统的过程”本身能够被修改，并检验收益能否延续到后续版本。

为了把这些说法落到实处，综述提出五个问题：

• 改什么？ 数据、权重、运行框架，还是评估和研发过程？

• 是否改到自己？ 执行改进的系统，是否也是被改进的对象？

• 谁控制各阶段？ 谁定目标、做计划、执行、判断结果和修复错误？

• 凭什么说变好了？ 依据是可执行测试、留出评测，还是模型自己的评价？

• 改进证据有多完整？ 是否有实际增益，能否保留，与同等预算的人类相比如何，能否迁移？

02｜long horizon 任务的难点，在于前一步改变了后一步

一个智能体调用了很多次工具，或者连续运行了很久，就足以证明它擅长 long horizon 任务吗？

综述强调，关键在于跨步骤的依赖：早先的决策会改变后续的状态，反馈需要进入下一轮计划，历史产物必须被正确保留和使用。

以修改训练流程为例：一次数据处理变更可能直到训练结束后才暴露问题。智能体需要把异常指标追溯到先前修改，决定回滚还是修复，并确保下一轮使用的是正确版本。只把上下文窗口加长，并不能替代这些能力。

因此，论文用六个维度描述任务压力：完成同类工作所需的人类投入时间、依赖性动作或交互的长度、上下文与记忆需求、对外部环境的读取与操作要求、计划依赖，以及验证信号的延迟、不完整程度和获取成本。

可靠边界也必须连同条件一起报告：使用什么模型和运行框架，有多少预算，允许重试几次，由谁评估，允许多少人工介入。

换一套工具、增加重试或更换评估器，得到的就是不同条件下的结果。理解“能做多长的任务”，需要先明确“在什么条件下，能以多高概率做成”。

03｜核心发现：单项能力很强，完整流程仍可能失败

综述将一个关键问题概括为 composition gap（组合鸿沟）：各个组件分别表现优秀，组合后却未必能完成可靠的端到端 AI 改进。

会检索文献，不代表能提出有效的实验假设；会写代码，不代表实现忠实于假设；能跑通实验，也不代表比较公平、结论成立。

这些环节交接时，还必须传递目标、版本、约束与证据。比如，分析使用了上一轮的日志，报告引用了不同配置的指标，或者修复某个问题时悄悄改变了评测条件。每一步看起来都在推进，最终结果却可能失去依据。

这也解释了为什么需要同时阅读两类基准：组件基准（component benchmarks）帮助定位浏览、编程、工具使用等能力短板；集成 AI 研发基准（integrated AI R&D benchmarks）则检查这些能力能否共同完成工程、优化和复现等完整流程。

对开发者而言，一个实用的诊断方式是：如果单项测试过关，完整任务仍失败，就继续检查信息交接、共享状态和协作机制，并追踪最早丢失或改变关键信息的位置。

04｜把能力训练进模型，也要让系统接得住

综述从模型与 Harness 两侧梳理解决思路。Harness 可以理解为模型权重之外，组织智能体运行的工具、记忆、执行和治理机制。

模型侧关注如何学会规划、正确调用工具、从长轨迹中获得有效反馈，以及将经验转化为后续策略的改进。

运行框架侧则需要处理那些必须在执行现场落实的事情：保存项目状态与实验记录，核对动作结果，在失败后恢复，判断何时停止或交由人类处理，以及检验框架自身的修改是否有效。

两侧应当相互配合。要证明一种方法确实扩展了可靠边界，还需要在明确的预算和环境下重复测试，区分模型变化与框架变化分别带来的影响。

05｜一次涨分之后，还有四个问题

当一个系统声称“自我改进成功”，综述建议分别审视四类证据：

• 实际增益（Measured Gain，G）： 在声明的指标上，表现是否提高？

• 收益保留（Retention，R）： 继续迭代之后，提升是否仍然存在？

• 人类对照（Human Comparison，H）： 在相近预算下，与人类相比表现如何？

• 留出迁移（Held-out Transfer，T）： 换到优化过程之外的任务、模型或领域，收益是否仍有效？

一次涨分不能替代另外三项证据；论文没有报告某项结果，也不等于该项测试已经失败。

沿着时间展开，失败还可能发生在不同尺度：一轮内的规划或工具错误，多轮之间的记忆衰减与目标漂移，跨代迭代中的能力退化与奖励投机，以及贯穿全程的归因和监督问题。

06｜这篇综述能帮你做什么？

对刚进入方向的读者，它提供一张从 long horizon 智能体到 AI4AI、再到 recursive self-improvement 的概念地图。

对研究者，它提供基准清单、方法分类和证据审视框架，帮助判断新工作的贡献落在什么环节，以及还缺少哪些实验。

对开发智能体和自动化研发系统的团队，它提供一个诊断视角：任务失败究竟来自能力短板、状态交接、验证机制，还是改进无法保留？

这篇综述的判断是：AI 已能在有边界、由人类设定规则的条件下承担不少改进工作，但可靠的研究判断、持久且可迁移的收益，以及跨代累积的改进，仍需要更充分的证据。

AI4AI 下一步值得期待的，是每一轮经过验证的改进，都能为下一轮留下更好的起点。