跳到主要内容
检索

# DiVR再生验证器

1 篇关联报道

订阅更新
  1. arXiv

    扩散语言模型学会何时重写:DiVR 在五个推理基准上把微调生成器平均准确率从35.3%提到43.4%

    掩码扩散语言模型可以重新遮盖已生成的文本,但按置信度或自评决定改哪里,往往改不动错误。DiVR 改为在生成器自身的解码轨迹上学习一个结果判别器,在块边界判断这段部分解是否还能走向正确答案,分数低就整块重采样。在 LLaDA-8B-Base 的监督微调生成器上,五个数学与代码基准的平均准确率从35.3%升到43.4%,代价与贪心解码相当。

已读完全部报道