扩散语言模型不再用固定向量纠错：把上一步预测当反馈，TruthfulQA 多选题均值从 30.89 升到 45.42
核心概要
TraceSteer 把扩散语言模型上一步的预测当作反馈，逐步调整激活干预的方向和强度，在 LLaDA-8B-Instruct 与 Dream-7B-Instruct 上提升了 TruthfulQA 的事实可靠性。
深度剖析
扩散语言模型生成文本时反复去噪，每一步都会给出一个临时预测；TraceSteer 让纠错干预跟着这条去噪轨迹走，而不是全程套用同一个方向。 此前的激活干预方法多沿用为自回归模型设计的固定向量和固定强度，没有利用扩散模型逐步修正假设的特点。 在 LLaDA-8B-Instruct 上，TruthfulQA 多选题均值从无干预的 30.89 升到 45.42，开放式生成的 TRUEINFO 从 40.31 升到 51.25；Dream-7B-Instruct 上均值从 32.94 升到 40.79，TRUEINFO 从 34.67 升到 48.65。
干预方向由上一步的临时预测和当前隐藏状态共同决定，干预强度则随预测不确定性和去噪进度变化。 DF-Steering 把上一步的完整临时回答编码成上下文表示，再与当前隐藏状态关联，生成针对当前去噪步的转向向量；TS-Gate 用上一步预测的熵和当前去噪时间步学出一个门控，调节该向量的强度。 两个模块在冻结主干的前提下用 TruthfulQA 的事实目标答案联合训练，并加入幅度正则化约束转向向量相对隐藏状态的大小；训练使用全部 817 条 TruthfulQA 实例，按 70:15:15 划分。
只在 TruthfulQA 上训练出的干预参数，直接拿到五个下游基准上也能用。 此前的方法通常需要针对目标任务重新调整，而这里不做任何目标任务的额外适配。 在 COPA、StoryCloze、MMLU、WinoGrande 和 BoolQ 上，两个主干都优于无干预版本；LLaDA 上五个基准平均从 71.14 升到 89.18，Dream 上从 73.93 升到 87.87。
启示与展望
报告覆盖的是两个扩散语言模型主干 LLaDA-8B-Instruct 与 Dream-7B-Instruct，评测集中在 TruthfulQA 的多选题与开放式生成，以及 COPA、StoryCloze、MMLU、WinoGrande、BoolQ 五个下游基准。干预施加在 Transformer 第 16 层，训练时主干冻结，只优化 DF-Steering 与 TS-Gate。适合关注扩散语言模型推理期干预与事实可靠性的读者。作者提出未来探索弱监督与自监督策略，以减少对事实标注的依赖。
方法依赖事实目标答案来训练转向与门控模块，这类高质量标注在专业领域获取成本高、耗时长，可能限制方法在更广泛场景中的适用性。消融显示，去掉幅度正则化后开放式生成的 TRUE 与 INFO 大幅下降，说明干预幅度需要约束。预测历史并非越长越好，只用紧邻的上一步预测整体表现最好。