跳到主要内容
返回时间线
arXiv来源发表:

视觉token砍掉四分之三,机器人策略仍保住95.75%成功率:APS-VLA让推理降到68.75毫秒

核心概要

视觉-语言-动作策略每步要处理数百个视觉token,推理延迟高。APS-VLA在冻结主干的前提下,用轻量评分器按当前观测、指令和本体感受挑选token,训练时同时要求保留的表示复现策略输出并预测后续视觉变化。在LIBERO上保留128个token时,平均成功率95.75%,比未剪枝的97.00%低1.25个百分点,推理延迟降到68.75毫秒。

Source-provided article image: APS-VLA: Action-Guided and Future-Aware Token Pruning for Efficient Vision-Language-Action Models
arXiv

深度剖析

机器人操作策略的视觉输入可以被大幅压缩,而动作生成质量只小幅变化。 此前剪枝多依赖静态空间冗余、即时指令相关性或启发式重要性,这些线索不一定保住操作推进所需的视觉信息。 在LIBERO上以OpenVLA-OFT为骨干,剪掉75%的视觉token后平均成功率95.75%,未剪枝基线为97.00%,推理延迟从107.95毫秒降到68.75毫秒。

选择哪些视觉token由一个小型评分器决定,它只看当前帧的输入。 评分器名为Decision Influence Estimator,把每个图像块的特征与整幅视觉上下文、语言指令和归一化的机器人本体感受结合起来打分。 训练时用可微的预算约束门控让梯度穿过冻结策略回到评分器,部署时每个相机视角只做一次硬性Top-k选择并按原顺序打包,辅助预测器被移除。

训练信号除了动作监督,还要求保留的表示能预测动作之后的视觉变化。 动作监督同时对齐冻结策略在全输入下的预测和示教动作,视觉转移目标则用示教动作从当前选中表示预测后续观测的特征摘要。 在LIBERO上,加入未来视觉监督后,256、128、64个token三档预算的成功率分别提升1.41、1.17和1.17个百分点。

启示与展望

演示的范围是LIBERO与RoboCasa365上的仿真评测,以及YHRG THESEUS-S1和双UR5两台双臂平台、每任务40次试验共400次真实执行的五个任务;延迟在单张A800、批大小为1的条件下测量。

剪枝比例升到87.5%、只保留64个token时,延迟收益变小而成功率下降更明显,说明超过75%后开始丢失精细空间线索;真实任务平均成功率61%对60%的差距是在每任务40次试验下观察到的。