小模型当“怀疑者”给大模型踩刹车：DoubtLess 免训练解码砍掉 Qwen3-32B 三成思维链
推理模型常在得出答案后反复检查，把思维链拖得很长。DoubtLess 让同词表的小模型分别以“直奔答案”和“逐步复核”两种指令读同一段思维链，把两者对数概率之差按强度加到 32B 大模型的输出上，只在解码时生效、不改权重。在七个竞赛数学、研究生科学与编程基准上，Qwen3-32B 由 Qwen3-0.6B 引导时思维 token 减少 31%，准确率不变，缩减幅度高于五种推理时基线。
DoLa换用注意力信号选层：LLaMA-7B的MC2升至62.8%，但大模型MC1仍归DoLa
对比解码DoLa靠输出词表分布的差异挑选浅层，Sakai等把选层信号换成自注意力分布，提出Attention-JSD、Attention-Entropy-Max与Attention-Entropy-Min三种策略，并保持DoLa框架不变。在TruthfulQA上，LLaMA-7B用Attn-Ent-Min取得MC2 62.8%、MC3 36.5%，高于DoLa的56.5%和30.5%；但LLaMA-33B与65B上DoLa的MC1仍最高，增益集中在多正确答案指标。
音频大模型说“有声音”时，证据在不在那段波形里：抹掉CLAP定位区，翻转率16.8%对随机3.1%
把音频大模型声称听到的那段波形单独抹掉，比抹掉同样长的随机片段更能推翻它的“有声音”判断，说明这类幻觉至少部分依赖可定位的音频证据，而按位置做对比解码还能把Qwen2-Audio的准确率从57.1%提到71.9%。
LoopCD 把循环 Transformer 的早期迭代当作弱参考，Ouro-2.6B 的 AIME 2024 pass@1 从 61.88% 升到 73.33%，并在半数循环下省下 22.5%–48.2% 前向 FLOPs
该工作提出免训练的对比解码框架 LoopCD，把循环 Transformer 最终预测与更早一次循环的预测做对比来引导选词，分 logit 空间（多一次输出前向，LoopCD-Logits）与隐状态空间（零额外输出开销，LoopCD-Hidden）两种形式，在四个循环 Transformer 家族上于全循环深度取得一致提升，例如 LoopCD-Logits 把 Ouro-2.6B-Thinking 的 AIME 2024 pass@1 从 61.88% 提到 73.33%，LoopCD-Hidden 把 Huginn 的 HumanEval pass@1 从 22.56% 提到 31.71%，并因此可在把循环次数减半时仍匹配或超过全深度无引导基线
Tri-PvP 用 8000 条三模态冲突样本证明：全模态大模型普遍偏向图像，且视觉偏好感知证据、音频偏好命题证据
研究者构建了 Tri-PvP——一个 8000 样本、覆盖动物、情绪、环境、音乐四个日常领域的三模态冲突基准，让图像与音频各自以感知形式（真实照片/录音）或命题形式（文字卡片图/TTS 语音）出现、文本始终为命题形式，在四个证据类型条件下评测五个全模态大模型，发现图像偏向在 20 个（模型×条件）组合中的 18 个里占主导，且存在系统性不对称：模型在视觉上更偏向感知证据、在音频上更偏向命题证据，这种偏向在早期隐藏层即可被线性解码，用对比解码只能部分缓解并带来残余文本偏向。
已读完全部报道