SLA把空间对齐搬进持续预训练:八种真实部署条件平均成功率83.8%,比基线高24.0个百分点
核心概要
SLA把视觉-语言-动作模型的空间对齐从只在任务后训练阶段做,扩展到持续预训练阶段,并在下游后训练中保留。它从预训练策略初始化,联合优化动作预测与中间视觉嵌入对冻结三维感知模型空间表示的余弦对齐,训练时用特征相关门聚合多层视觉嵌入、用概率状态丢弃减少对示范轨迹的依赖;在RoboTwin 2.0的Clean2Random设置上达到72.3%,在八种真实部署条件上平均成功率83.8%,比基线高24.0个百分点。
深度剖析
视觉-语言-动作模型的空间理解不再只靠任务后训练补,SLA把它提前到持续预训练阶段,并在下游后训练中继续保留。 此前的空间对齐做法Spatial Forcing只在后训练阶段施加空间监督,空间能力因此更像任务专用的附加项。 在RoboTwin 2.0全部50个任务上,两阶段都开启对齐时,Clean2Random成功率从5%数据时的49.2%升到全量数据的72.3%;只在后训练对齐为57.1%,只在持续预训练对齐为63.2%。
训练时让中间视觉嵌入去对齐一个冻结三维感知模型给出的空间表示,动作生成的主干和动作头都不改。 对齐信号来自OmniVGGT输出的像素级三维表示,该模型可同时利用RGB、相机内参外参和深度图,缺失标注时用占位符补位。 在后训练阶段只更换空间监督来源时,RoboTwin干净示范上的平均成功率从无对齐的31.8%升到仅用RGB的OmniVGGT的42.8%,再升到带相机标定的46.0%。
多层视觉嵌入由特征相关门自适应加权后再接受空间监督,避免手工挑一个固定层。 固定层需要单独实验挑选,且适合某一数据域的层未必适合另一域。 在18层语言主干的PaliGemma上,单层对齐的Clean2Random成功率在43.4%到67.3%之间,第12层最好;自适应融合达到72.3%,平均成功率79.2%,比第12层高5.0和3.5个百分点。
训练时随机整段丢弃机器人状态,迫使策略更多依赖视觉线索。 机器人状态可能成为捷径,让策略把特定状态与示范轨迹关联起来,而不是对场景的视觉变化作出反应。 在RoboTwin全部50个任务上,25%的状态丢弃概率取得79.2%的平均成功率,不丢弃时为38.1%;75%的次优设置只有61.9%。
启示与展望
已展示的范围是三个仿真基准、一个真实基准和八种私有真实部署条件,平台为双臂Piper与单臂Franka,相机为Realsense D435;RoboDojo-Real与RoboDojo-Sim上的策略在后训练时额外加入了记忆机制,记忆帧不进入空间对齐分支。
源文说明状态丢弃的响应并非单调,完全去掉状态输入也不是最优;RoboTwin逐任务结果显示干净条件与随机化条件之间存在明显落差,例如Place Cans Plasticbox从96%降到40%、Handover Block从91%降到38%;RoboDojo-Sim上随机化布局会明显降低成功率,Long-Horizon维度低于多数基线。
