NIST装配板不再逐任务教:一条策略只拿成败信号,20个任务全过
核心概要
AlphaNIST把NIST装配任务板1的20个装配任务放进同一个强化学习策略里训练,只给二值成败奖励,不用示教、不用进度塑形、不用脚本化动作原语,也不逐任务调参。此前学习类方法通常一次只解一个任务,或依赖固定顺序、预设初始位姿和稠密奖励引导。在仿真中,这条共享策略达到98.2%的整体训练成功率,并在小零件任务上超过单独训练的策略。
深度剖析
一条策略可以同时学会NIST装配任务板1上的全部20个装配任务,包括螺母拧入、齿轮啮合、连接器插入和销钉插入。 此前学习类方法大多假定固定装配顺序、把零件初始位姿限制在已抓取或接近装配的状态,或只覆盖板上部分任务,并常为每个任务单独训练一条策略。 在64K并行环境、25K次迭代下,共享策略取得98.2%训练成功率,耗时410 GPU小时;20条单独训练的策略平均81.4%,合计16.1K GPU小时。
训练信号只有装配完成与否的二值奖励,策略仍能学出灵巧操作和类似规划的行为。 常见做法是加入稠密进度奖励、示教或脚本化子技能来让探索可行,而这里中间过程不获得任何任务奖励。 在1K到256K并行环境的评测中,二值奖励的成功率从38.6%升到97.4%,同样规模下稠密奖励塑形为77.4%;在1K到4K环境区间,稠密奖励的成功率停留在11.8%到12.0%。
同一条策略还能在一个回合里连续完成最多十个装配对,且不规定先后顺序。 以往长程装配多依赖高层策略在示教学到的选项或预设子技能库之间切换,或按固定顺序逐个完成。 只有全部活动装配对同时完成时才发放成功奖励,成功率随活动装配对数量从1对的99%降到10对的84%。
启示与展望
结果全部来自仿真,训练和评测都在Isaac Lab的GPU并行环境中完成,机器人模型为7自由度Franka Emika Panda,观测为机器人状态与可动零件、配合几何和机器人的表面点云。策略输出关节位置目标和夹爪指令,速度与力矩限制按硬件匹配设置。作者计划在评审与修订后公开代码,并说明将用传感器观测以及随机化的接触与延迟模型在实体板上评估迁移与可重复性。
作者指出所有结果都在仿真中取得,硬件匹配的速度和力矩限制约束了学到的动作,但并未证明对感知误差、延迟或接触模型失配的鲁棒性。把十对策略扩展到整块板的20个零件仍是待解目标,作者认为在单一终端任务奖励下实现这一点可能需要更高效的仿真与学习方法。
