跳到主要内容
返回时间线
arXiv来源发表:

机器人策略改学动作的导数:ODE Policy 一个 epoch 在 LIBERO 达 79.2%,基线最高 43.2%

核心概要

多数机器人策略在离散控制步上直接输出动作值,把物理运动的连续性留给数据隐式学习。ODE Policy 改用一个神经常微分方程学习动作的向量场,在部署时由上一个动作积分出下一个动作,使轨迹在构造上连续。在 LIBERO 上训练一个 epoch 后,它取得 79.2% 的成功率,而基线最高为 43.2%;作为 VLA 与 ImageWAM 的动作头以及 SuperMimic 的 actor 时也保持这一早期优势。

AI-generated editorial illustration: ODE Policy: Robot Learning via Action Dynamics, Not Actions

深度剖析

机器人策略不再逐步输出动作值,而是输出动作随时间变化的速率,再由积分得到动作序列。 此前的模仿学习与强化学习策略把观测直接映射到离散控制步上的动作值,连续运动只能从数据中间接学到,动作块边界处甚至不保证连续。 在 LIBERO 上训练一个 epoch 后,ODE Policy 的成功率为 79.2%,六个视觉运动基线最高为 43.2%;第 2 个 epoch 超过 85%,比扩散与流匹配策略早一个数量级。

做法是让一个神经网络充当动作的向量场,给定当前动作与本体感知,输出该动作的瞬时速度。 训练时以动作块为单位用数值求解器积分,只对积分出的整条路径与示范做匹配,不回归速度标签,因此梯度直接穿过少数求解步。 在 LIBERO 的四个套件上训练单一模型,每个任务用基准固定初始状态跑 20 个回合,每个视觉运动实验重复三个随机种子并报告均值与标准差。

部署时每个动作都从上一个动作积分得到,动作块之间首尾相接,不必等整块生成完再执行。 直接输出动作的策略在块边界处命令会跳变,生成式策略还要为每个块做多次网络评估。 用 Euler 求解时,生成 8 个动作的块耗时 5.7 ms,比 FM-DiT 快 10.8 倍;在真实机器人上比扩散与流匹配基线快 3.5 到 27 倍。

启示与展望

演示范围包括 LIBERO 与 LIBERO-plus 仿真、一个 2D 导航任务、Franka Research 3 单臂、Galaxea R1 Lite 双臂、Sharpa North 灵巧手与 Unitree G1 人形上的 14 个真实任务,以及 SuperMimic 的 40 段 LAFAN1 动作跟踪;真实机器人每个方法训练 300 个 epoch(单臂 50、人形 90),每项评测 20 次试验。

多模态行为只在 2D 导航与一个真实双臂抽屉任务上验证,且作者指出这种强多模态只出现在少部分机器人任务中;把夹爪作为连续状态积分时成功率下降,作者也提到在无模型强化学习的早期实验中收益很小甚至有害。