驾驶视频里问车往哪开,六个视频语言模型全答成前进;轻量微调后却接近满分
导语
在CARLA驾驶视频的二选一自车运动判断上,六个视频语言模型用标准提示几乎只答一个类别,前进/后退全部塌缩到前进;而轻量LoRA微调后多数模型接近满分,说明运动线索在模型内部,只是提示路径取不出来。
正文
在驾驶视频里判断自车是前进还是后退、左转还是右转、加速还是减速,六个开源视频语言模型用标准提示给出的答案几乎不随画面变化,而是固定倒向某一个类别。 此前这类模型被当作通用视频推理器使用,基准分数持续上升,但它们在安全攸关场景下是否真的用了时间动态并不清楚。 在1200段CARLA第三人称驾驶视频上,所有被测模型对前进的准确率为100%、对后退为0%,完全塌缩到前进类;左/右与加速/减速也出现模型相关的偏向,例如InternVL 3.5在左/右上总体67%,但左只有39%、右有95%。
把静态参照物框出来、给示例、加逐步推理,都没有稳定修好这个偏向;换成轻量微调或在小分类器上读中间视觉特征,同一批模型却能接近满分。 提示层面的干预只让输出更流畅、更自信,少数较新模型在个别动作对上明显变好,但增益不跨动作类别迁移。 LoRA微调在每对动作400段视频、80/20划分下,除VideoLLaMA2的加速/减速外全部接近满分;在冻结的中间视觉特征上训练单层CNN,Qwen2.5-VL与Qwen3-VL的前进/后退从50.00%和55.00%升到97.50%,左/右在合并后达到100%。
接下来
这项工作评估的是自车运动这一组受控任务:前进/后退、左/右、加速/减速的二选一判断,输入为第三人称CARLA驾驶视频,另有60段第一人称真实驾驶视频仅用于标准提示。适用读者是考虑把视频语言模型接入驾驶推理或交互流程的研究与工程人员。原文提出,下一步应在nuScenes、Waymo Open Dataset等更大规模真实驾驶数据上检验这些现象是否持续,并探索更直接保留和利用时间信息的架构或训练目标。
原文说明,由于没有加入单帧输入或打乱帧序的对照,LoRA与特征探针的高准确率本身还不能证明这些线索确实是时间性的,部分表现可能来自CARLA渲染中的逐帧外观线索,这一点留待后续工作。真实视频集只有60段、每类10段,其准确率本身较不稳定,且样本量不足以支撑有监督的LoRA与特征探针实验。原文还指出,模拟与真实之间按类别统计的相关性被前进/后退的整体塌缩抬高,不应被当作独立的泛化度量。
