跳到主要内容
返回时间线
arXiv来源发表:

机器人动作不再需要专门的动作模块:把工具坐标系画进腕部相机,预训练VLM直接输出可执行动作

核心概要

预训练视觉语言模型不必先学机器人动作,把以工具中心点为中心的动作坐标系投影进腕部相机画面并用文本接口输出动作后,27B模型零样本在简单操作任务上平均成功率79.4%,接近用约30条演示微调过的VLA模型。

Source-provided article image: VLMs are Native Action Models: Unleashing the Manipulation Capabilities of VLMs with Explicit Action-Space Grounding
Figure 1 · arXiv

深度剖析

机器人动作的物理含义被直接放进视觉语言模型看得见的画面里,模型因此不用先学一套机器人专属的动作表示就能输出可执行动作。 此前的视觉语言动作模型要么把动作当作额外词元,要么接上流匹配、扩散或回归动作头,这些动作表示的语义必须先由机器人数据预训练教会模型。 在UR3机械臂上,27B规模模型零样本在简单任务组平均成功率79.4%,而对比的VLA基线需要约30条演示微调才能达到同一水平。

动作以纯文本形式生成,模型原有的自回归语言解码器本身就是动作解码器。 此前需要为机器人动作引入专门词元或单独连续动作预测器,而这里只使用预训练词表里已有的符号。 动作被写成带正负号和两位小数的文本串,例如 0|+0.40,-0.10,+0.91,+6.00|+0.00,+0.00,+1.00,-45.00|+1.00,四个字段依次表示任务完成、平移、旋转和夹爪状态。

启示与展望

这套接口在6自由度UR3加腕部RGB-D相机与外部相机的桌面上验证,任务覆盖刚体、铰接、可变形、精密和长程操作;零样本能力集中在较简单的任务组,较难任务组通过机器人数据微调来扩展。跨本体迁移在UR3与7自由度Flexiv之间测试,两者使用同一夹爪,且该实验不使用外部相机观测。作者提出的下一步包括在更多开源与闭源VLM家族和参数规模上刻画零样本能力与推理预算,把原生文本动作接口扩展到双臂与移动操作,并考察用该接口扩大预训练是否提升视觉空间推理与零样本操作能力。

零样本评测只在较简单的任务组上表现出非平凡能力,较难任务组零样本基本失败,需要微调才能完成。消融显示去掉动作坐标系投影或去掉度量深度信息后,平均成功率从79.4%降到0%,说明这两项是当前设置下的必要条件。语法约束解码只约束命令语法,数值动作仍由模型预测;在LIBERO仿真中不使用深度信息,模型输入与对比的VLA基线一致。作者也指出,这一新动作接口仍有许多开放问题。