视觉语言模型里用来定位“看图”注意力头的发现分数，其内部选择会明显改变选出的头。研究在Qwen3-VL-8B-Instruct上完整交叉查询类型、发现语料与读取注意力的token位置，并用可操控性与必要性两种干预检验全部12组头集。结果只有必要性随注意力来源变化：查询跨度头集比末token头集更必要，两个指代加查询跨度头集高出250组同层随机头集17–19个标准差；而在默认强度下，没有任何发现头集的可操控性超过同层随机头集。
该工作重新审视视觉语言模型解码器中的视觉注意力汇，发现早期与末层解码器在不同提示下反复把注意力集中到同一批图像区域（称为提示无关汇 PIS），而中间层才随查询变化并承担视觉-语言对齐；据此提出免训练的 SAGE，用来自 CLIP、ViT、DINOv3 等标准视觉骨干的 token 对齐 ROI 掩码对视觉 token 注意力 logits 施加加性偏置，把注意力从 PIS 引向查询相关区域，在 LLaVA-1.5、Qwen2-VL、InternVL3、NVILA 等模型上改善视觉定位、降低幻觉并在多项公开基准上取得增益。
该工作提出 BaRe-Mem，一种在线贝叶斯可靠性记忆，它依据中心模型的内部信念表示估计顾问可靠性、用可靠性调制注意力并决定是否咨询；在九个基准和六个中心模型上，它比辩论与多数投票更抗误导信息，在更具挑战性的任务上于全部测试误导水平下仍高于自主推理，并在 MuSiQue 的智能体团队路由中比按历史成功次数路由更早识别出有能力的工作者。
已读完全部报道