视觉token砍掉四分之三，机器人策略仍保住95.75%成功率：APS-VLA让推理降到68.75毫秒
视觉-语言-动作策略每步要处理数百个视觉token，推理延迟高。APS-VLA在冻结主干的前提下，用轻量评分器按当前观测、指令和本体感受挑选token，训练时同时要求保留的表示复现策略输出并预测后续视觉变化。在LIBERO上保留128个token时，平均成功率95.75%，比未剪枝的97.00%低1.25个百分点，推理延迟降到68.75毫秒。
视觉token不必一律排序：BtsPruner只留576个中的32个，仍保住稠密模型91.6%的性能
大型视觉语言模型要为每张图处理数百到数千个视觉token，推理开销随之上升。此前的免训练剪枝方法用同一套重要性标准给所有视觉token排序，忽略了它们在编码过程中承担的角色会发生变化。BtsPruner先依据注意力集中度的变化定位角色转折点，再从较深层挑出被全局引用的代表token、从较浅层递归取回局部细节token，在固定预算下同时保留两类角色；在LLaVA-1.5-7B上只保留576个视觉token中的32个（5.6%），仍保住稠密模型91.6%的性能。
视觉token剪枝不再只看单个分数：图传播加度数校正，LLaVA-NeXT保留三成token仍达98.7%精度
多模态大模型的视觉token选择改用图传播加度数校正：在四个骨干、十个基准和七个剪枝率上，LLaVA-NeXT保留三成视觉token时精度保留98.7%，并带来净prefill加速。
FlashGaze 在 ViT 编码前用四叉树动态规划剪枝视频 patch，在 Qwen3-VL-8B 上以 20% 保留率保住 LongVideoBench 98% 精度并降低峰值显存 1.8 倍
FlashGaze 是一种免训练方法，在 ViT 编码前以像素空间差异作为信息损失代理，用四叉树动态规划在固定预算下联合决定 patch 的丢弃、合并与保留，从而同时削减视频的时空冗余；在 Qwen3-VL-8B 与 NVILA-8B-Video 上，它在多个视频理解基准上取得更高精度与更低首 token 延迟，并在 20% 保留率下保持 LongVideoBench 全输入基线 98% 的精度。
SCOPD 用稀疏上下文在线自蒸馏把 10% 视觉 token 下的 VLM 性能从 86.37% 提升到 92.43%
该工作通过固定上下文的 Pass@K 分析发现视觉 token 剪枝后的性能下降并非全是信息丢失，而是模型未能可靠利用残留证据（表征—利用差距），并提出 SCOPD 与 SCOPD+ 两种稀疏上下文在线自蒸馏方法，在 10% 视觉 token 保留率下把 13 个基准的归一化平均性能从 Vanilla 的 86.37% 提升到 90.49% 和 92.43%，且不改变架构、不增加推理开销、不需要真实答案。
LT-OPD 用自身生成轨迹上的在线自蒸馏，把 5% 视觉 token 下的平均保留性能从 68.6% 提到 82.3%
该工作提出 LT-OPD，让只保留 5% 视觉 token 的学生模型在自己的生成轨迹上接受冻结全 token 自身教师的分布监督，并配合逐步降低 token 预算的课程，在 Qwen3.5-4B 九个基准上把平均保留性能从 68.6% 提升到 82.3%，同时把 KV 缓存降低 85.2%、prefill FLOPs 降低 85.4%，且不增加推理开销。
已读完全部报道