跳到主要内容
返回时间线
arXiv来源发表:

人形机器人用机载视觉接住抛来的纸箱:2.5米处成功率65%,达到人类接球手的76%

导语

人形机器人 Reflex 只靠机载 RGB-D 视觉接住人抛出的纸箱,仿真中接住率 85.7%,接近使用特权箱体观测的 87.9%,真机在 2.5 米和 5 米处分别为 65% 和 40%。

Source-provided article image: Reflex: Visually Grounded Reactive Humanoid Control
Fig. 2 · arXiv

正文

人形机器人现在可以只靠机载相机接住人抛来的纸箱,而不依赖动作捕捉或带标记的物体。 此前的人形接物系统多依赖动作捕捉或反光标记物体,或只用手部末端执行器,很少把全身平衡、快速预测与机载视觉合在一起。 仿真中机载 RGB-D 输入的接住率为 85.7%,同一解码器使用特权箱体观测时为 87.9%,说明视觉预测保留了大部分接住能力。

整套能力被拆成三步训练,每一步只学一件事,再用一个紧凑的物体动力学表示把它们串起来。 端到端从像素学控制既贵又难优化,因为每次 rollout 都要渲染 RGB-D,还要同时探索视觉空间和 29 维动作空间。 第一步用强化学习从箱体状态学全身接住,第二步从延迟且不完整的观测学箱体动力学隐变量,第三步在控制器冻结的情况下用机载 RGB-D 历史回归同一隐变量。

真机上,机器人接住人抛纸箱的成功率随距离下降,但近距离已接近人类水平。 人类接球手在同样距离上的成功率是 2.5 米 85.0%、5 米 68.3%、7 米 28.3%。 真机 Unitree G1 在 2.5 米和 5 米处分别为 65% 和 40%,相当于人类成功率的 76% 和 59%,每个条件 20 次试验。

接下来

这套系统在仿真中从机载 RGB-D 接住 85.7% 的抛出,真机在 2.5 米和 5 米处分别为 65% 和 40%,每个条件 20 次试验。作者把接箱当作一类视觉反应式全身技能的代表,并明确把这一分解扩展到其他视觉反应式全身任务列为自然的下一步。

长距离视觉接地是主要限制:5 米抛出比任何训练抛出都快,也超出 3.0–3.5 米的第三阶段数据,视觉成功率降到 43.0%,而特权输入为 79.7%;把远距离抛出加入第三阶段数据后,仿真 5 米成功率升到 75.8%,但尚未在硬件上测试。作者还指出控制器实际上对箱体尺寸不敏感,硬件延迟只在自家检测器流水线上测量且超出随机化范围,渲染未建模运动模糊和曝光动态。

来源