小模型当“怀疑者”给大模型踩刹车:DoubtLess 免训练解码砍掉 Qwen3-32B 三成思维链
推理模型常在得出答案后反复检查,把思维链拖得很长。DoubtLess 让同词表的小模型分别以“直奔答案”和“逐步复核”两种指令读同一段思维链,把两者对数概率之差按强度加到 32B 大模型的输出上,只在解码时生效、不改权重。在七个竞赛数学、研究生科学与编程基准上,Qwen3-32B 由 Qwen3-0.6B 引导时思维 token 减少 31%,准确率不变,缩减幅度高于五种推理时基线。
推理模型常在得出答案后反复检查,把思维链拖得很长。DoubtLess 让同词表的小模型分别以“直奔答案”和“逐步复核”两种指令读同一段思维链,把两者对数概率之差按强度加到 32B 大模型的输出上,只在解码时生效、不改权重。在七个竞赛数学、研究生科学与编程基准上,Qwen3-32B 由 Qwen3-0.6B 引导时思维 token 减少 31%,准确率不变,缩减幅度高于五种推理时基线。
已读完全部报道