扩散语言模型学会何时重写：DiVR 在五个推理基准上把微调生成器平均准确率从35.3%提到43.4%
核心概要
掩码扩散语言模型可以重新遮盖已生成的文本，但按置信度或自评决定改哪里，往往改不动错误。DiVR 改为在生成器自身的解码轨迹上学习一个结果判别器，在块边界判断这段部分解是否还能走向正确答案，分数低就整块重采样。在 LLaDA-8B-Base 的监督微调生成器上，五个数学与代码基准的平均准确率从35.3%升到43.4%，代价与贪心解码相当。
深度剖析
扩散语言模型的修订不再依赖词元置信度，而由一个在生成器自身解码上训练的结果判别器决定是否整块重写。 标准掩码扩散解码从不回看已确定的词元，早期高置信度写下的错误答案容易保留；已有的重遮盖与搜索方法按调度、置信度、似然或提示式自评决定改哪里，这些信号都没有被训练来预测最终答案是否正确。 在 LLaDA-8B-Base 经监督微调的生成器上，五个数学与代码基准的平均准确率由35.3%升到43.4%，代价与贪心解码相当；同一设置下 SR-SMC 为39.1%、Prism 为37.3%，且计算量更高。
判别器与生成器共享主干，只训练一个低秩适配器和一个输出头，读取带掩码的部分画布并给出这段轨迹最终正确的分数。 训练标签只来自生成器自己采样轨迹的最终答案对错，不需要词元级标注或参考推理步骤；判别器因此学到它所引导的那个生成器的错误模式。 在 GSM8K 上固定重采样流程与预算、只替换触发信号时，承诺置信度为72.2%、提示式是/否判断为67.9%、仅用输出头的判别器为74.2%，完整 DiVR 为78.8%。
修复集中在解答开头，因为第一块决定了问题的解读方式，后续词元倾向于沿用这一解读。 在保留上下文的情况下重新预测单个错误格，原错误数字的平均概率仍有0.869；在77个失败数独上，用标准答案重开所有错误格只修好6个，连同前文一起回滚最好也只修好13个。 在 GSM8K 上被修复的154道题中，74%在第一个块就偏离贪心轨迹，92%在前两个块内偏离；Countdown 的59次修复中有58次始于第一个块。
启示与展望
演示范围是三个掩码扩散生成器（LLaDA-8B-Base、LLaDA-8B-Instruct、Dream-v0-Instruct-7B）在 GSM8K、MATH-500、Countdown、HumanEval、MBPP 五个数学与代码基准上的推理时修订，每个领域各训练一个判别器，数学用 GSM8K、代码用 MBPP。读者应把它看作推理时方法的证据，而不是对开放式文本生成或训练阶段改进的结论。
阈值在 GSM8K 开发集上选定，在 GSM8K 测试集上0.1到0.9之间准确率保持在77.5%至79.2%，但代价随之上升；配对干预分析只覆盖每个状态一次重采样事件，不覆盖连续三次事件的策略。更换判别器训练种子得到77.5%、更换重解码种子得到77.6%，这些是分别的敏感性检查而非独立的端到端重复。