点击下方卡片,关注【Xbotics具身智能实验室】公众号
你想要的这里都有~~
作者/木木
如果只记住 Dyna-2 的一个数字,我觉得应该是:100 万小时。100 万小时意味着什么?如果一台机器人每天稳定采集 10 小时有效操作数据,一年大约只有 3650 小时。想靠真实机器人采满 100 万小时,相当于让 274 台机器人连续工作一年,而且这还没有考虑遥操作人员、设备维护、场地、故障和数据清洗的成本。
Dyna-2 做了一件完全不同的事情:它没有试图真的采集 100 万小时机器人数据,而是把第一视角人类操作视频变成机器人可以利用的训练数据。更重要的是,论文得到的结果并不是“人类视频越多,人类动作预测越准”这么简单,而是发现:随着人类视频从 1K、10K、100K 增加到 1M 小时,模型在此前没有见过的机器人本体上的动作预测,以及经过少量机器人数据适配后的真实机器人表现,都持续提高。
这也就引起大家的思考:
机器人 Foundation Model 的下一条 Scaling 路线,会不会不是继续疯狂采机器人数据,而是利用整个互联网规模的人类操作视频学习世界,再用少量机器人数据完成身体适配?
阅读完全文后我的观点是:
我相信的。
大规模第一视角人类操作数据对机器人预训练非常有价值;增加 human video 确实可以提高 cross-embodiment representation。
这篇文章的数据对这个观点支持很强。(DYNA Robotics)
我感觉有意思,但需要更多证据
Human data 从 1K→1M 增加时,zero-shot robot action prediction 存在稳定 data-scaling phenomenon。
我基本接受。
我存疑的。
“我们已经发现了一个像 LLM Scaling Law 一样,可以可靠外推未来机器人能力的 Human-to-Robot Scaling Law。”
现有公开结果还没有达到这个强度。
总的来说:Dyna-2 可以看作一个很强的人类视频数据与机器人迁移的“规模效应”实证,但要严格按 Kaplan / Chinchilla 那种可预测的 Scaling Law 标准来说,它还只能算有力证据,没到完全坐实的地步。
它的亮点是数据量跨度很漂亮,从 1k、10k、100k 到 1M 小时,横跨三个数量级。不过问题在于:一共只测了 4 个主要规模点,缺少关键的拟合指数、置信区间和 R²,也没有展示“用小规模结果去准确预测大规模表现”的外推验证,训练时随机种子重复得不够充分。更关键的是,机器人在真实环境中实际跑出来的表现增长曲线,并不是一条干净平滑的幂律曲线。所以现阶段更适合叫它“很强的规模化证据”,还不是一条板上钉钉的 Scaling Law。
那我们接下来一起逐层分析一下:

一、Dyna-2的核心:未来的数据可以很便宜
如果今天训练一个机器人 foundation model,需要一百万小时机器人操作数据,那么这意味着什么?
假设一个机器人每天能够稳定产生 10 小时有效数据,一台机器人一年大约也只能产生几千小时数据。想获得百万小时数据,需要的不再只是模型团队,而是一整套庞大的机器人数据生产工业。
而人类世界完全不同。我们每天都在做,拿杯子、开门、切菜、拧瓶盖、折衣服、整理桌面、搬箱子、组装零件。从机器人学习的角度看,人类实际上每天都在免费产生大量 manipulation experience。
如果给人佩戴第一视角相机,我们能够看到:人看见杯子,手伸过去,手指闭合,杯子被抓起,随后跟着手发生运动。这里面实际上已经包含了大量机器人所需要学习的信息:什么东西可以抓,应该从哪里接近,接触之后物体会发生什么变化,什么动作能够改变环境状态。
问题在于,人和机器人毕竟不是同一个身体。
人有手腕、五根手指和几十个自由度;机器人可能是一根六自由度机械臂加一个两指夹爪,也可能是双臂,也可能是灵巧手。

这就是机器人领域经常讨论的 Embodiment Gap——本体差异。这些知识能不能跨越身体结构的差异,迁移到机器人身上?
这才是 Dyna-2 所谓 Human-to-Robot Transfer Scaling 核心假设其实可以概括成一句话:
也许 Embodiment Gap 并不是一道无法跨越的墙,而是一个可以被数据规模逐渐冲淡的问题。
Dyna-2 并不是简单地把一百万小时视频扔给模型,而是先解决了一个更关键的问题:人类视频里没有机器人 action label,怎么把它变成机器人能够学习的数据?
他们的办法,是从第一视角视频中恢复人的 3D hand pose,再把复杂的人手运动压缩到一个更接近机器人任务空间的表示。其中,手腕轨迹近似描述末端执行器的空间运动,拇指与食指之间的距离则被转换成连续的 grasp signal。
这样一来,一段原本只有 RGB 图像的人类操作视频,就能够被转化成类似:
Video + End-Effector Trajectory + Grasp Signal 的数据形式。
这里 Dyna-2 在 Human 与 Robot 之间人为构造了一层 action abstraction。人的五指手、两指夹爪、灵巧手当然完全不同,但它们都可以共享一些更高层的任务变量:末端往哪里移动、什么时候靠近物体、什么时候建立接触、什么时候释放。
换句话说,Dyna-2 并没有试图让机器人模仿“人的身体”,而是在尝试让机器人学习“人的操作意图与世界变化之间的关系”。
这样的机器人动作表征是 大规模第一视角人类操作视频 + 自动提取的人手三维轨迹 + pseudo action supervision + video prediction。这里面的 pseudo action 非常关键。因为它在 Human 和 Robot 之间人为建立了一个中间层:人的五根手指和机器人的两指夹爪虽然不同,但我们可以暂时忽略具体身体结构,只讨论更抽象的问题:末端往哪里移动?什么时候发生抓取?一旦把动作抽象到这个层面,人和机器人之间的差异就没有原来那么大了。
同时 Dyna-2 训练的是一个 World-Action Model。
世界模型最值得关注的思想是:
真正能够跨 Embodiment 迁移的,也许不是动作本身,而是动作与世界变化之间的关系。
机器人 foundation model 的 scaling 路线出现一个非常重要的变化:过去我们认为扩大机器人能力主要依赖更多 robot action data。未来可能变成:海量 human video 学世界 + 相对少量 robot data 学身体。前者负责建立通用 manipulation prior 和 world representation,后者负责 embodiment adaptation。

二、这篇工作值得关注的四个实验
实验1:堆人类数据,预测人类动作更准了
他们构造了 4 个大小不同的数据集:1千、1万、10万、1百万小时,并且小数据集完全包含在大数据集里(嵌套设计)。结果很直观:数据越多,模型预测人接下来会做什么动作的误差就越低。这证明了“堆更多人类视频 → 对人类动作的理解就更强”。结论很扎实,但本身并不意外,算是基本功验证。
实验2:看人类视频看多了,没见过面的机器人也能跟着受益
训练时模型压根没看过这些机器人长什么样,但神奇的是:随着人类视频从 1千小时增加到 1百万小时,模型预测这些陌生机器人动作的准确度也在持续提升。这就是他们说的“从人到机器人的迁移规模化”。
不过要留个心:这还只是在电脑上算出的离线分数,不是真机干活成功率。机器人动作不是标准答案,抓同一个苹果绕左边还是绕右边都可能成功,但训练数据里只有一种,算误差时就会冤枉模型。所以离线指标变好,不等于真机能成。
实验3:离线涨分变成了真机干活变强
他们把用不同大小人类数据预训练的模型,各自再用少量真机数据简单教一下,然后直接放到真实机器人上去跑 14 个任务。结果很清晰:预训练数据量越大,真机平均完成任务的比例就越高,从 20% → 28% → 45% → 53%,一直往上走。这就把整条链条打通了——堆更多人类视频 → 离线预测更准 → 真实机器人干活更厉害,形成了一个完整的闭环。

实验4:视频本身可能才是真正可以无限扩大的“弹药”
他们对比了三种训练方式:只学动作、边学动作边预测未来画面、以及在预测画面的基础上再额外灌入海量无声视频。
结果发现,只堆动作数据,跨机器人的迁移提升并不稳定;一旦模型开始学习预测未来画面(搞点“世界模型”),迁移效果就明显变好;而最猛的是,即使把动作数据量固定不动,只是不停地追加更多无声视频,机器人的指标依然能一个劲往上蹿。
所以他们提出一句比“1百万小时”更重要的判断:“视频是新的规模化轴”。这意味着未来的路线可能是:用海量视频去学世界的常识和规律,再用少量机器人专属数据去学怎么动手,这样就能用相对小的代价撬动更大的能力提升。

三、它离真正的 Scaling Law 还有多远?
如果只是问:“数据增加以后性能是不是持续提高?”
答案非常明显:
是。
如果再进一步问:
“我们是不是已经找到了一个类似 LLM Scaling Law、能够预测未来机器人能力的 Human-to-Robot Scaling Law?”
我认为还没有:经典 Scaling Law 最有价值的地方,并不仅仅是能够对已经出现的数据点拟合一条曲线。
如果真说是scaling law 应该能回答以下三个问题。
第一问:能否用小规模数据外推预测 1M 的 robot MSE?
目前不能。Dyna-2 没有展示使用 1K/10K/100K 拟合出 scaling curve 后,事先预测 1M 的指标并落在置信区间内的实验。现有四条曲线更接近事后拟合,缺乏外推验证,所以是 fit,不是 predictive scaling law。
第二问:video prediction 是“世界模型”因果证据,还是仅多了一个自监督任务?
文章没有提供同规模 non-predictive video representation baseline(例如 masked modeling、contrastive learning 等),因此无法排除性能提升仅仅来自更强大的视觉自监督表示,而非“世界建模”这一特定假设。当前实验说明 future-video prediction 是一个有效训练信号,但还不能严格区分收益究竟来自“学习了动态世界模型”,还是来自“获得了更强的视觉时空表征”。
第三问:offline metric 与真实 rollout success 的任务×检查点维度相关性如何?
文章没有给出 task × checkpoint 粒度的相关系数(如 Pearson/Spearman)。只给出了聚合平均成功率的单调趋势,无法严格证明 offline 的 prediction scaling 能细粒度地等价为 robot capability scaling。
其中最重要的是:预测。
假设今天不知道 1M 小时实验结果。只给你:1K、10K、100K。然后在训练百万小时模型之前告诉我:1M 小时的 Robot MSE 大约是多少?等百万小时训练真正完成以后,实验结果又确实落在预测区间里。如果能够做到这一点,我会非常愿意把它称为:Predictive Scaling Law。
因为这时候 Scaling Law 就不再只是一条漂亮曲线,而可以真正参与模型和数据战略决策
因此如果让我用一句相对严谨的话概括 Dyna-2,我会写:
Dyna-2 在 1K–1M 小时第一视角人类操作数据范围内观察到了稳定的数据缩放现象,并给出了纯人类预训练数据向未见机器人本体迁移的强 cross-embodiment scaling evidence;但其规律能否进一步成为可拟合、可外推、可预测真实机器人能力的 Scaling Law,仍需要更多 scale points、独立重复实验以及 offline-to-online correlation 的验证。
Dyna-2 真正值得机器人行业关注的,并不是它现在有没有资格获得“Scaling Law”这个名字,而是它第一次把一个长期存在的问题推到了足够大的数据尺度上:
机器人能力是否一定依赖同等规模的机器人数据?
如果答案最终是否定的,那么未来机器人 Foundation Model 的竞争结构会发生很大的变化。最昂贵的机器人数据仍然重要,但它可能越来越承担 embodiment calibration 和 downstream adaptation 的角色;而大量通用 manipulation knowledge,则可能来自规模大几个数量级的人类视频。
从这个角度看,Dyna-2 的 100 万小时不是终点。
它更像是在试图回答一个机器人行业非常重要的问题:
Human experience,究竟能不能成为 Robot Intelligence 的预训练语料?
-END-
Ask Me Anything|提问箱
对文章有疑惑,或想聊更深?欢迎把你的问题丢给我们:技术方案、实操踩坑、课程与资料、项目合作、职业发展,都可以问。
怎么问:在评论区留言,或私信公众号
我们会做什么:每周集中整理高质量问题并公开回复,重点问题邀请作者或嘉宾深度解答;典型问题会加入知识库并持续更新。
提问小提示:尽量说明「你的目标—当前做法—期望产出」,附上必要信息(硬件/软件版本、数据规模等),能更快获得有用答案。
一起把问题变成知识,推动社区进步 🚀