一台机器人踩过的坑,如何让整个群体少走弯路?清华大学联合无问芯穹、智元用「群体经验学习」范式破局

3D视觉工坊 2026-10-30 18:00

动物通过观察同伴学习觅食与避险,原始人类借助模仿、语言与协作积累知识、传承文明。经验的共享与传递,始终是群体不断突破个体局限的重要方式。

进入人工智能时代,机器开始从人类积累的海量数据中学习。而当智能进一步进入物理世界,一个新的问题随之浮现:机器人能否不再只依赖人类,而是从彼此的真实实践中积累经验,让个体的探索成为整个群体进步的起点?

近日,无问芯穹联合清华大学、智元提出群体经验学习(Collective Experience Learning,CEL)范式,并在 96 台机器人上完成了原型验证。机器人不再仅仅依赖人类持续提供动作示范,而是通过共享策略和经验互相学习,让一台机器人的实践可以帮助整个群体改善任务表现。

  • 在以手机包装为代表的多阶段工业操作任务中,经过 CEL 训练后的策略在两台未参与训练的同型号机器人上完成 120 次测试,成功率从 79.2% 提升至 98.3%。

  • 在插花、叠衣服、手机充电、凳子组装和手机包装五项真实世界任务中,CEL 训练出的策略均超过了 6 名人类操作员的平均表现。

  • 规模扩大的收益同样显著,在相同物理训练时间内,当参与学习的机器人从 16 台增加至 96 台,测试成功率由 86.7% 提升至 98.3%。

这些结果指向一种新的学习方式:机器人不仅可以从人类示教和个体实践中学习,还能借助同伴的经验少走弯路;参与学习的机器人越多,群体积累经验、提升任务表现的潜力也越大。

一台机器人踩过的坑,如何让整个群体少走弯路?清华大学联合无问芯穹、智元用「群体经验学习」范式破局图1

这一探索也回应了具身智能领域关于自主学习的一个重要方向。Physical Intelligence 联合创始人 Sergey Levine 近期在访谈中指出,机器人可以先借助人类采集的高质量示范建立基础能力,再逐步转向真实世界中的自主试错,利用自身采集的数据持续迭代。无问芯穹这一产学联合实践,正是为具身智能从依赖人类持续示教,走向基于真实交互经验的规模化学习,提供了一条可验证的技术路径。

技术报告:https://arxiv.org/abs/2610.25736
网站链接:https://cel-robot-learning.github.io/

01 群体经验学习:机器人同伴也能成为学习对象

过去,机器人想要学会一项新任务,离不开人类提供动作示范,或在执行出错时及时接管。无论是模仿学习,还是人在环强化学习,都需要人类参与学习过程。但这种方式存在一个瓶颈:机器人可以不断增加,人类专家却难以同步扩展。 当越来越多的机器人同时训练,人类反而成为限制学习效率的关键因素。

CEL 主要改变的是后续学习中动作监督的来源:机器人不必总由人类告诉它每一步该怎么做,而是可以从其他机器人过往的实践中寻找答案。在这种范式中,人类的角色也随之发生变化:从不断提供动作、协助探索,转向结果判定。

团队在家庭与工业相关场景中测试了五类任务:插花、叠衣服、手机充电、凳子组装和手机包装。覆盖了不同类型的操作挑战,包括柔性物体处理、精细定位、工具使用,以及需要连续完成多个步骤的长流程任务。

一台机器人踩过的坑,如何让整个群体少走弯路?清华大学联合无问芯穹、智元用「群体经验学习」范式破局图2

插花

一台机器人踩过的坑,如何让整个群体少走弯路?清华大学联合无问芯穹、智元用「群体经验学习」范式破局图3

叠衣服

一台机器人踩过的坑,如何让整个群体少走弯路?清华大学联合无问芯穹、智元用「群体经验学习」范式破局图4

手机充电

一台机器人踩过的坑,如何让整个群体少走弯路?清华大学联合无问芯穹、智元用「群体经验学习」范式破局图5

凳子组装

一台机器人踩过的坑,如何让整个群体少走弯路?清华大学联合无问芯穹、智元用「群体经验学习」范式破局图6

手机包装

实验结果显示,在五项任务中,两台未参与训练的同型号机器人共进行了 600 次测试,累计近 30 个机器人小时。期间仅有 15 次任务失败,总体成功率达到 97.5%,失败率为 2.5% 。其中,单台机器人在叠衣服和手机充电任务中,分别实现连续 3 小时 34 分和 3 小时 19 分无任务失败。

而传统离线微调(SFT)在上述任务中的平均成功率仅 36.3%;基于人类示范的多机 HG-DAgger 方案,成功率可提升至 81.0%;在此基础上,我们在 CEL 范式下采用的 FERT 算法进一步突破上限,最终模型在全任务上的表现均超过 6 名人类遥操员的平均水平。

一台机器人踩过的坑,如何让整个群体少走弯路?清华大学联合无问芯穹、智元用「群体经验学习」范式破局图7

这组对比表明,CEL 真正实现了摆脱人类示教,达成了更稳定、更鲁棒的任务执行效果。
真实世界中的机器人经验不仅可以用来积累数据,还可以通过有针对性的检索和训练,转化为更好的任务执行表现。 同时,减少对人类持续动作示范的依赖,也为机器人群体进一步扩大规模提供了新的可能。

这一学习范式的运转核心正是解决了两大问题:

  • 当近百台机器人同时运行时,如何在通信受限和设备动态变化的情况下,持续稳定地积累经验?
  • 当仅有成功或失败这样的简单反馈时,如何从大量执行经验中找到最值得学习的经验?

02 FATS 系统:支持近百台机器人在动态环境中,稳定训练和互相学习

真实环境中的机器人集群的执行节奏并不一致:有的很快完成任务,有的需要更长时间复位,还有的可能因网络波动、充电或硬件故障暂时离线。

如果训练系统必须等待所有机器人完成任务才能更新模型,或因个别设备故障而中断整体训练,就很难充分发挥大规模机器人协同学习的优势。

为此,团队设计了容错异步训练系统 FATS,把机器人视作和 GPU 同等的训练资源,将 100 台机器人、50 个边缘节点和 6 台云端服务器组织成一个能够动态协同工作的训练系统,使机器人执行任务、数据传输与模型训练能够并行推进。机器人可以动态地上线、下线、加入和退出,而不会影响整个训练过程。

FATS 的设计围绕两部分展开:一是让系统可以应对大规模设备和节点的动态变化,二是让每台机器人的经验数据可以及时流动进入训练流程。

一台机器人踩过的坑,如何让整个群体少走弯路?清华大学联合无问芯穹、智元用「群体经验学习」范式破局图8

1. HotSwarm:让局部设备故障不轻易打断整体训练

在真实环境中,机器人暂停、离线、充电或发生故障都很常见。因此,大规模真机的训练系统不能假设每台设备始终在线,而是需要具备能够应对这些动态变化的能力。

控制平面 HotSwarm 负责管理机器人及系统工作进程的动态变化。当某台机器人暂时退出或重新加入时,系统会更新相应的工作进程和连接关系,尽可能保留已有的节点注册信息与资源配置,避免因为个别设备的变化而影响整个训练流程。

一台机器人踩过的坑,如何让整个群体少走弯路?清华大学联合无问芯穹、智元用「群体经验学习」范式破局图9

在一项 96 台机器人的系统实验中,集群累计采集了 9834 轮执行经验。实验期间,共有 22 台机器人发生了 30 起故障,但故障造成的机器人时间损失仅占总运行机时的 1.3%。

这说明,通过创新的系统设计,在大规模真实机器人训练中,局部设备故障并不必然导致整个系统停摆。通过异步执行和容错机制,集群仍能持续积累经验、推进训练。

对于需要长期运行、反复试错的具身智能任务而言,系统的能力不仅关乎训练效率,也是扩大真机训练规模的重要基础。
当机器人执行、数据流转和模型训练能够稳定并行推进,大规模真机集群便有机会从分散的执行个体,转变为持续支撑经验积累与策略优化的训练系统,为具身智能走向更大规模的真实世界学习提供基础。

2. SwarmLink:让机器人的个体经验及时进入训练

当故障不再是影响训练连续性的首要瓶颈,机器人的数据传输效率成为下一个亟待解决的核心问题。如何减少训练各环节的等待与空转,成为进一步提升整体训练效率的重点。

机器人完成任务后,产生的执行数据需要传输到训练系统中。如果所有机器人排队提交,或者训练一定要等到所有任务结束才能开始,都会造成时间浪费。

数据平面 SwarmLink 负责连接机器人运行环境、策略推理和模型训练等环节。每台机器人完成任务后,都可以异步提交数据;训练系统收到经验后,就能根据已有数据推进模型更新,无需等待整个机器人集群同步完成一轮任务。

这意味着,不同机器人可以按照自己的节奏执行任务,训练也能持续利用已经收集到的数据。

同时,SwarmLink 支持根据实际条件灵活安排云端与边缘侧的计算资源。不同任务对网络带宽和响应速度的要求不同,系统可以据此调整部署与通信方式,在权重同步的数据传输开销和机器人频繁交互所要求的低延迟之间进行权衡。

一台机器人踩过的坑,如何让整个群体少走弯路?清华大学联合无问芯穹、智元用「群体经验学习」范式破局图10

03 FERT 算法:从简单的成败反馈中,找到最值得学习的经验

一台机器人完成一次任务需要 3 分多钟,期间要执行 4000 多步动作。但任务结束后,系统只能得到一个简单结果:成功记为 1,失败记为 0。这个结果能告诉我们任务有没有完成,却无法直接说明机器人究竟在哪一步出了问题,也不能直接告诉模型应该怎样改进。

为此,团队提出了失败引导的经验检索微调算法 FERT。它的核心思路是:

从成功经验中学习可行的操作方式,再从失败经历中找到需要重点改进的环节。

一台机器人踩过的坑,如何让整个群体少走弯路?清华大学联合无问芯穹、智元用「群体经验学习」范式破局图11

1. 积累成功经验,建立共享经验池

各台机器人使用初始策略独立执行任务。每次任务结束后,系统都会记录执行过程,并将成功任务的完整操作轨迹存入共享经验池,供后续训练使用。

2. 从失败场景中,寻找可借鉴的成功做法

如果一台机器人执行失败,FERT 不会只把这次失败简单地记下来,而是提取失败前的一段操作记录,结合相机画面和机器人关节状态进行分析,并在成功经验池中检索相似的操作片段,寻找可供参考的解决方式。

3. 提高相关经验的学习优先级,针对性改进策略

找到相似的成功经验后,FERT 会提高这些经验在训练中的优先级,让模型重点学习自己容易出错、但已有其他机器人成功完成的操作。

4. 经验的持续积累与策略的循环改进

训练完成后,更新后的策略会重新部署到机器人上,指导它们继续执行任务。新的成功与失败又会进入经验池,成为下一轮训练的素材,推动策略持续改进。

成功经验告诉机器人“可以怎么做”,失败经历则帮助系统判断“下一步应该重点学什么”。群体经验的价值,一方面来自持续的数据积累,另一方面取决于能否把适配的经验精准送到模型最需要学习的地方。
两者结合,让只有简单成败反馈的真实执行数据,也能够转化为有效的学习信号。

04 具身智能的 Scaling :更大规模的机器人群体,带来更高的任务成功率

当不同机器人能够在群体中共享经验,一个自然的问题随之浮现:

参与学习的机器人越多,能否在相同时间内积累更多有价值的经验,并进一步提高任务成功率?

为探索这个问题,团队逐步扩大了参与训练的机器人规模,并比较不同规模下的学习效果。

一台机器人踩过的坑,如何让整个群体少走弯路?清华大学联合无问芯穹、智元用「群体经验学习」范式破局图12

实验显示,在相同的物理训练时间内,采用 FERT 的方案在五项任务上均呈现出随着机器人数量增加、任务成功率提升的趋势。相比之下,依赖人类示范的 HG-DAgger 方案,性能提升的幅度相对有限。人类示教的采集效率成为其进一步扩大规模、突破成功率上限的瓶颈。

在难度最高的手机包装任务中,这一差异尤为明显:当参与 FERT 训练的机器人从 16 台增加到 96 台时,测试成功率从 86.7% 提升至 98.3%。

在相同的真实世界交互时间内,更大规模的机器人群体带来了更高的任务成功率。

对于具身智能而言,这提供了一条值得继续探索的技术路径:在足够稳固的系统支撑下,除了依靠不断增加的人类示范数据,还可以扩大能够自主执行任务、采集经验的机器人群体,让真实世界中的物理交互成为持续学习的重要来源。

05 从个体试错到群体进步:让每一次实践成为下一次探索的起点

人类文明的进步,不只源于个体的发现,更源于经验能够被传递、积累,并成为后来者继续探索的起点。从火种的保存与传递,到工具制作技艺的学习与改进,当经验不再局限于个体,个体的突破才有机会转化为群体的能力。

今天,这种可能性已经被群体经验学习(CEL)范式带入机器人世界。机器人不再只是独立完成任务的个体,而有机会通过共享实践,共同积累经验、持续进化。机器人的规模不仅意味着更强的执行能力,也意味着更大的经验积累与持续学习潜力。

而当机器人从百台进一步走向千台、万台、十万台,规模化的发展不仅需要上层算法不断探索与迭代,更离不开底层系统的可靠支撑。从面向具身智能的大规模强化学习训练开源框架 RLinf,到基于 RLinf 构建的具备灵活调度与容错能力的底层系统,无问芯穹将携手合作伙伴持续完善具身智能基础设施,为上层算法的反复试验、效果验证与持续迭代提供支撑,助力具身智能在更大规模的真实环境中持续学习与进化。

随着 AI 在数字世界探索通过执行、评估与迭代实现递归式自我改进(Recursive Self-Improvement,RSI),这一思路也为具身智能带来了新的想象。CEL 尚不是 RSI 本身,却为具身智能迈向持续自我改进提供了一个现实起点:当机器人的个体经验能够持续沉淀,实践能够不断反哺学习,具身智能的未来就有机会从“人类教会机器人如何行动”,走向“机器人在真实世界中持续学习如何做得更好”。

从人类文明依靠经验传承不断积累,到机器人群体尝试通过经验共享持续进步,背后的共同逻辑始终如一:让每一次实践都不止于当下,而是成为下一次探索的起点。

关于科技区角:国内科技展会垂直内容策划服务商,提供从论坛内容全案策划、会展市场化IP打造到精准专业观众一站式邀约服务,以产业内容吸引高质量B端人群,打通展会从议题设计、演讲嘉宾邀约、宣传预热、精准邀观到供需对接全链路。
声明:内容取材于网络,仅代表作者观点,如有内容违规问题,请联系处理。
机器人
more
智元机器人面试体验引争议 稚晖君公布营收突破20亿
海归创业专攻机器人皮肤,融资亿元!
现场达成8项意向合作!成绵AI机器人产业协同“加速跑”
上海发布新政策:到2028年,推动8000台人形机器人进工厂
小鹏IRON机器人固态电池小批量下线,2026年冲刺量产
智元机器人半年营收逼近20亿 人形机器人大战进入“真金白银”验证期
一台机器人踩过的坑,如何让整个群体少走弯路?清华大学联合无问芯穹、智元用「群体经验学习」范式破局
一块面包,就让全球机器人集体破防?幕后真相终于被这家黑马破解
雷军投的机器人芯片企业辉羲智能,要IPO了
心言巴布「Bubbo 1」:一台机器人,如何成为家人
Copyright © 2025-成都区角科技有限公司
蜀ICP备2025143415号-1
  
川公网安备51015602001305号