跳到主要内容
返回时间线
arXiv来源发表:

机器人世界模型不再只学成功演示:把人类第一视角视频和失败动作一起训,预测成功率与真机高度一致

核心概要

机器人世界模型HF-WM把人类第一视角操作视频和扰动出的失败动作一起训练,在动作条件视频生成上取得当前最好结果,并让预测成功率与真机部署表现高度一致。

Source-provided article image: Beyond Successful Robot Demonstrations: Learning from Human Interactions and Modeling Failure Dynamics
Figure 1 · arXiv

深度剖析

动作条件世界模型现在可以从人类第一视角操作视频和失败动作中学习,而不只依赖机器人自身的成功演示。 此前的机器人数据集以成功演示为主,失败案例和偏离目标的交互覆盖有限,人类第一视角视频又因人手与机械臂的形态差异难以直接使用。 在100条DROID留出的Franka轨迹和100条真机失败轨迹上,HF-WM的PSNR为26.077、FVD为14.449,优于OSCAR的23.357和31.815,并且在成功与失败执行上表现接近。

模型用共享的骨架动作表示把人和机器人的动作放进同一空间,再用稳定化的点轨迹监督生成视频关注真正的交互运动。 人手与机械臂的自由度、维度和运动结构不同,第一视角录像还带有相机抖动,会掩盖与交互相关的区域。 训练使用约45K条Franka轨迹和83K条人类交互轨迹,点轨迹经相机运动补偿后,背景的整体漂移被明显削弱,而手与被操作物体的相对运动保留下来。

第二阶段用扰动成功动作得到的反事实动作做GRPO后训练,靠动作对齐和物理合理性两种奖励学习失败动态,不需要配对的失败视频。 失败视频没有真值可监督,直接做监督微调无法覆盖夹爪异常、时序错位和末端位姿偏差的后果。 只用物理合理性奖励会生成近乎静止或与动作条件矛盾的画面,只用动作对齐奖励会牺牲背景时序一致性,两种奖励合用后各项指标最好。

启示与展望

这套方法在约45K条Franka轨迹和83K条人类交互轨迹上完成两阶段微调,评测覆盖100条留出的DROID Franka轨迹与100条真机失败轨迹,并作为策略评估器在六个通用策略、同一批90个匹配执行会话上给出预测成功率。适合关注机器人世界模型、策略评估和跨形态数据利用的研究者与工程师阅读。

失败动态的学习依赖对成功动作的扰动,而不是真实失败视频,因此模型学到的是反事实条件下的合理后果。物理合理性奖励由视觉语言模型按分层清单打分,第一层不通过会直接封顶该候选的奖励。策略评估中预测成功率与真机表现的强相关来自六个策略、90个匹配会话的评测,排序误差主要出现在真机成功次数仅差一次的两个策略之间。