小模型当“怀疑者”给大模型踩刹车：DoubtLess 免训练解码砍掉 Qwen3-32B 三成思维链
推理模型常在得出答案后反复检查，把思维链拖得很长。DoubtLess 让同词表的小模型分别以“直奔答案”和“逐步复核”两种指令读同一段思维链，把两者对数概率之差按强度加到 32B 大模型的输出上，只在解码时生效、不改权重。在七个竞赛数学、研究生科学与编程基准上，Qwen3-32B 由 Qwen3-0.6B 引导时思维 token 减少 31%，准确率不变，缩减幅度高于五种推理时基线。
推理模型学会在局部停笔：LoCo只改继续或收尾的偏好，数学补全长度减少41.7%–45.4%
大推理模型常在信息已经足够后继续长篇推理，推高解码延迟与显存开销。LoCo把压缩决策放到单个推理状态上：从模型自身轨迹中找出过度思考的候选状态，冻结该前缀，重新生成更短且答案验证正确的续写，再用DPO学习“继续还是收尾”的偏好。在五个数学基准上，补全长度减少41.7%–45.4%，准确率保持或提升；仅用数学数据训练后，同一模型在三个代码基准上长度减少23.4%–36.3%。
SynLat 用句法对齐单元做文本-隐空间混合压缩，在约 44% 压缩率下保留 94.0% 的未压缩准确率
SynLat 把思维链压缩重新表述为表示保真度的分配问题：用成分句法把推理轨迹切成有序不重叠的句法对齐单元（SAU），由答案条件化的教师模型为单个压缩条件化学生模型生成渐进式 KEEP/LATENT 目标，隐单元映射到共享离散码本；推理时学生模型仅凭问题和压缩等级生成文本与隐符号混合的思维链。在两个 Qwen3 学生规模、Standard- 与 Long-CoT 任务组、三个压缩等级共 12 个任务组聚合中，SynLat 全部达到或超过最强基线，其中 11 个严格领先；MEDIUM 下总体领先 3.6/2.6 个百分点，HIGH 下扩大到 7.0/5.5 个百分点。
已读完全部报道