视频语言模型数不清重复动作:答案卡在少数偏好数字,计数信息其实还在最后一层
RepProbe把重复次数做成可控变量后发现,通用视频语言模型在高次数上计数崩溃,但同一最后一层状态里次数仍可线性解码,说明失败出在输出环节而非表征。
RepProbe把重复次数做成可控变量后发现,通用视频语言模型在高次数上计数崩溃,但同一最后一层状态里次数仍可线性解码,说明失败出在输出环节而非表征。
该工作定义“时间发散向量”τ_l(反转帧序引起的逐层表示差异),在 Qwen2.5-VL-7B、Qwen3-VL-8B、InternVL2.5-8B 上发现其归一化幅度在中间偏后层达到峰值、随后向输出层递减,并通过问题条件分析与注意力敲除确认该峰值对时间推理特异且对预测功能关键,据此提出免训练的 Temporal Activation Injection(TAI),在峰值层提取 τ_l 并按测得的衰减曲线注入后续层,在三个 VideoLLM 与四个基准上一致提升时间推理且对非时间任务影响可忽略。
已读完全部报道