机器人不再照单全收经验:只留成功干预中人工控制段,高精度插装成功率88.24%
核心概要
Evo-RL把机器人部署中积累的经验按估计优势筛选后再用于策略微调,在PiperX高精度螺丝插装任务上把尝试成功率从RECAP的57.78%提高到88.24%。
深度剖析
机器人策略的继续改进不再把部署中收集的全部经验等量使用,而是先判断哪些片段值得学,再决定训练时用哪些数据。 此前RECAP把示范、自主 rollout 和人工干预一起用于训练,并把二值优势标签作为额外输入;Evo-RL改为用估计优势挑选经验,并提高被选中经验的采样权重。 在PiperX螺丝插装任务上,第一轮Evo-RL的尝试成功率为88.24%,RECAP为57.78%,吞吐量分别为每小时60.61与35.54个成功阶段。
方法把人工纠正和优势筛选放在同一个迭代循环里:人工纠正补上策略在部署中卡住的状态,优势筛选把训练引向数据中更有希望的行为。 单独使用人工干预的SFT + Int.把尝试成功率从SFT的22.73%提高到78.72%,单独使用优势筛选的SFT + RL为36.99%,两者结合后达到88.24%。 所有变体都从同一份示范训练2.5个epoch的策略出发,在PiperX上按相同流程评估;第二轮Evo-RL把尝试成功率进一步提到92.16%,吞吐量提到67.14。
训练时只保留成功干预轨迹中由人工控制的那部分动作,策略控制的部分被排除,以免学到可能导致失败或拖长任务的行为。 人工干预样本在全部数据中通常只占一小部分,IWR通过提高干预样本权重来缓解这种不平衡,而Evo-RL进一步按控制来源切分轨迹,只在连续人工控制段内采样动作块。 在SO-101折衣任务上,完整Evo-RL把尝试成功率从SFT的55.56%提高到76.67%,吞吐量从每小时75.78提高到90.00;铺平阶段成功次数从17升到19,尝试次数从76降到36。
启示与展望
报告覆盖的是PiperX螺丝插装和SO-101折衣两个真实操作任务,策略从示范微调后的检查点出发,部署时使用实时动作分块。适合关注真实机器人强化学习与人工干预数据利用的研究人员和工程师阅读。材料明确给出的下一步是重复数据收集与训练循环,第二轮Evo-RL在PiperX上把尝试成功率从88.24%提高到92.16%。
价值模型是任务特定且仅使用视觉输入的,每个任务需要单独训练。材料报告的第一轮Evo-RL策略微调约4小时52分钟、1511步,价值训练约2小时19分钟,均使用多卡GPU;这些时间数字对应特定硬件配置。第二轮迭代在PiperX上带来进一步提升,但材料没有说明更多轮次是否继续增益。
