机器人不再只照字面执行:MIT的FLEX借大模型把一句“别洒到笔记本上”扩成避开所有电子设备
核心概要
MIT 与纽约大学的研究者推出 FLEX,一套面向机器人运动规划的特征编辑流程,让机械臂在接到自然语言指令后不只照字面执行,还能推断出未明说的更高层意图。此前的方法每收到一次纠正就把一个物体加进避让清单,清单会越积越长且随环境变化失效。FLEX 用大语言模型在已指定特征之间做归纳,再用视觉系统删除已不在场的物体,在端咖啡、移蜡烛、搬保龄球三个仿真任务中,机器人既执行了字面指令,也把避让扩展到电子设备、易燃物和易碎品。
深度剖析
机器人接到“别洒到笔记本上”这类口语指令后,除了避开笔记本,还会主动绕开旁边的手机等电子设备,而人并没有把这些物体逐个点名。 此前的做法是每收到一次纠正就把一个物体加入避让特征清单,人必须把每个想避开的物体都说出来,清单还会随环境变化不断变长、混入不再相关的条目。 在端咖啡、移蜡烛、搬保龄球三个仿真场景中,志愿者用自然语言输入指令,FLEX 控制的机械臂既完成了字面要求,也把避让推广到电子设备、易燃物和易碎品。
这套流程分三步:先把人提到的物体加入任务相关的特征清单,再让大语言模型在已有特征之间找共同点并归纳出更一般的类别,最后用机器人自带的视觉系统把已经不在场的物体从清单里删掉。 承担归纳的是大语言模型 GPT-4o,它从训练文本中吸收的常识被用来判断“液体加电子设备会出问题”这类关系,从而把单个物体扩展成一类物体。 整个三步流程在仿真中耗时约五秒,测试对象是执行三类搬运任务的机械臂,交互方式是人键入自然语言指令。
启示与展望
展示范围限于仿真环境:志愿者向虚拟机械臂键入自然语言指令,完成端咖啡、移蜡烛、搬保龄球三类任务,机器人据此扩展避让对象。读者对象是关注机器人学习与人机交互的研究者和工程师。
材料报告的是仿真场景中的结果,未说明在实体机器人或真实家庭环境中的表现;归纳出的类别是否总与用户意图一致,材料未给出评估。
