

在人工智能系统不断演进的过程中,一个核心问题始终存在:当系统通过解决任务积累经验时,究竟什么应该被持久化并随着时间的推移而改进?传统的思路几乎都将智能体本身作为改进的核心对象——通过优化提示词、工作流程、工具链,甚至修改智能体自身的代码。这种“以智能体为中心”的范式虽然有效,但也带来了高昂的维护成本。每一次改进都与特定的智能体设计、任务分布或适应过程深度绑定,使得改进难以复用和迁移。
现在,一种新的范式正在被探索。它不再将智能体视为需要不断打磨的“艺术品”,而是将其视为可随时替换的“通用工人”。真正持久化并持续进化的,是一个由智能体共同贡献、共同维护的知识库。这就像是将“大脑”从智能体中剥离出来,变成一个可以独立积累、讨论和提炼智慧的共享空间。

论文标题:Knowledge-Centric Self-Improvement
论文链接:https://arxiv.org/pdf/2607.19592
开源仓库:https://github.com/recursive-knowledge/KSI
研究背景:智能体进化的新思路
当前,大多数自改进AI系统的设计都隐含着一个共同的答案:让智能体成为改进的核心。无论是通过优化提示词、搜索更高效的工作流程,还是让智能体自我修改代码,其本质都是让单个智能体变得越来越“聪明”和“专业化”。
然而,这种方式的代价是显而易见的。一个持久化的智能体需要吸收大量来自不同任务的经验教训,其中一些是任务特定的、冗余的,甚至彼此矛盾。随着智能体不断“增重”,有用的行为可能被相互冲突的更新所稀释,每一次新的适应都可能损害其在先前任务上的表现。这就像一个工匠,每学一门新手艺,都可能让原本熟练的技艺变得生疏。
来自加州理工学院的研究团队提出了一个互补的范式:以知识为中心的自改进。在这一范式中,智能体本身保持通用、无状态且可随时替换,而持久进化的对象则是一个精心策划的知识库。智能体作为“临时工”,从共享知识库中读取信息,完成任务后,再将基于证据的见解写回知识库。

核心方法:三阶段知识提炼协议
为了验证“仅靠知识提炼能否驱动系统自改进”这一核心假设,研究团队设计了一个简洁而有力的三阶段协议。这个协议的核心是保持智能体的“简单”和“可替换”,所有复杂性和状态都外化到知识库中。
第一阶段:任务级论坛。 每个智能体完成任务尝试后,不会默默消失。它需要在当前任务的专属“论坛线程”中发帖,详细阐述其尝试过程:哪些假设被验证了,哪些约束条件至关重要,哪些检查点提供了关键信息,以及哪些策略导致了失败。更重要的是,发帖不是单向的。智能体需要阅读同一任务下其他智能体的帖子,并引用这些帖子来支持或反驳自己的观点。通过这种讨论,针对单一任务的本地化证据和相互竞争的假设得以保留和澄清。
第二阶段:跨任务论坛。 如果知识只停留在单个任务层面,其价值是有限的。跨任务论坛的目标,就是识别那些在不同任务中反复出现的模式、原则和错误。智能体们被邀请到一个“公共讨论区”,审视所有任务级帖子,并提出可迁移的论断,例如常见的错误类型、有效的验证策略、通用的环境假设或问题分解模式。
为了避免论坛沦为泛泛而谈的“建议收集箱”,协议要求每个跨任务论断都必须基于一个或多个具体任务尝试的证据。后续的帖子必须对先前的论断表明明确立场:同意、反对或综合。在这里,分歧被视为宝贵的证据,而非系统的不稳定。相互冲突的观点恰恰揭示了哪些指导原则是任务特定的,哪些失败模式会重复出现。

第三阶段:知识蒸馏。 论坛产生了大量讨论,但并非所有内容都对未来的智能体有直接帮助。蒸馏阶段就像一个严格的编辑,它将论坛中积累的证据转化为未来智能体可以直接消费的“知识资产包”。这些资产包分为两种:针对特定任务的“任务包”和适用于所有任务的“跨任务包”。
蒸馏过程不是简单的总结,而是一个精心筛选的过程。大语言模型被指示只保留那些可操作的、有证据支持的、范围明确的论断,并剔除那些模糊的、不附带适用条件的建议。最终产出的知识包结构清晰,包含可迁移的见解、已确认的约束、被否定的假设、需要避开的陷阱、必要的检查步骤以及后续行动建议。

实验结果:知识的力量超越智能体的复杂化
研究团队在三大类任务上进行了严格的实验评估:抽象推理(ARC-AGI-1/2)、代码生成与修改(Polyglot, SWE-bench Pro)以及终端操作技能(Terminal-Bench 2)。实验结果有力地支持了以知识为中心范式的优势。
对比以智能体为中心的基线方法。 研究将新方法与当前主流的、以智能体自改进为核心的强大基线进行了对比,包括Darwin Gödel Machine (DGM)、HyperAgents和Meta-Harness等。在多项基准测试中,使用简单通用智能体但配备知识库的系统,不仅取得了更高的任务解决率,而且通常以显著更低的计算成本实现了这一目标。
例如,在ARC-AGI-1抽象推理任务上,新方法的解决率达到86.7%,而HyperAgents为70%,同时成本仅为后者的三分之一。在Polyglot代码任务上,新方法解决率为68%,超过了DGM的58%和HyperAgents的52%,成本同样大幅降低。


对比提示词优化方法。 另一种常见的自改进思路是优化一个可复用的求解器提示词。研究团队对比了GEPA和OpenEvolve等提示词优化框架。在匹配的预算下,知识提炼方法在ARC-AGI-1和Polyglot任务上的表现均优于这些提示词优化器。这表明,提炼可重用的知识资产(记录见解、假设和失败模式)比单纯优化一个通用提示词策略更为有效。

跨大语言模型家族的有效性。 为了验证协议是否绑定于特定的大语言模型,研究团队分别使用Anthropic的Haiku 4.5和OpenAI的GPT-5.4-mini执行了相同的知识提炼流程。结果表明,无论使用哪种大语言模型,该协议都能保持有效。GPT-5.4-mini在所有四个基准测试上都取得了更高的平均解决率和更低的成本,而Haiku 4.5的运行结果也以更低的成本超过了所有以智能体为中心的基线。这说明知识提炼协议本身具有通用性。

关键发现:知识的可迁移性
最令人印象深刻的发现或许在于知识的可迁移性。研究团队设计实验来回答:由该系统产出的知识资产包,其价值是否能独立于产生它的具体任务和过程?
实验设置: 研究人员首先在一个“训练集”(50个任务)上运行完整的10轮知识提炼框架,得到一个结构化的知识资产。然后,他们冻结这个资产,并将其转移到一个完全不同的、从未见过的“测试集”(20个困难任务)上。接收方(另一个智能体)在零样本的情况下,仅使用这个冻结的知识包来尝试解决新任务,期间不进行任何新的论坛讨论或蒸馏。
结果: 如表4所示,转移的知识显著提升了智能体在Polyglot和ARC-AGI-1测试集上的零样本性能。无论知识是由GPT还是Haiku提炼的,也无论接收方是哪种大语言模型,知识迁移都带来了正向的提升。由于接收方没有进行新的学习,这些性能增益完全来自于推理时读取的冻结知识包。这表明,知识包中携带的是与具体模型无关的问题解决结构,而非特定模型的“行为习惯”。

结论与展望:迈向可协作、可审查的智能体生态系统
这项工作确立了一个从“以智能体为中心”到“以知识为中心”的自改进范式转变。其核心在于,将AI进步的持久性基底,从一个不断复杂化的智能体内部,转移到了一个外部化的、可共享、可精心策划的知识库。
实验证明,即使使用无状态、故意保持简单的智能体,通过知识提炼协议,也能在多项任务上超越那些专注于优化智能体本身的复杂基线。这暗示着,自主推理的瓶颈可能不在于智能体架构的复杂性,而在于其能够访问并随时间 refine 的信息的质量与结构。
这一范式带来的更广泛影响,是构建一个可协作、可审查的智能体生态系统。由于知识存在于任何单一的大语言模型之外,它指向了一种“即插即用”的框架,不同的大语言模型和智能体变体都可以为一个统一的可重用知识体系做出贡献。这种外部化确保了改进不仅仅是容易过拟合的、模型特定的行为,而是能够在不同模型家族和未知问题领域中保持有效的通用原则。
本研究为了分离出知识提炼的效果,刻意保持了智能体架构的简单性。这为未来探索知识中心与智能体中心技术的协同作用奠定了基础。将知识提炼协议与递归搜索或复杂规划模块相结合,是进一步提升性能的一个有前景的方向。该框架在当前基准测试上的成功,也为将其扩展到需要子任务分解的长视野任务提供了路线图。
> 本文由 Intern-S2 等 AI 生成,机智流编辑部校对
-- 完 --
机智流推荐阅读:
1.
2.
3.
4.
cc | 大模型技术交流群 hf | HuggingFace 高赞论文分享群 lc|LangChain 技术交流群 code | AI Coding 交流群 具身 | 具身智能交流群 硬件 | AI 硬件交流群 推理 | AI 推理框架交流群 智能体 | Agent 技术交流群