# D-REAL 接受长度优化方法

投机解码的草稿模型通常按逐词交叉熵训练，但固定开销下真正决定加速比的是目标模型连续接受的草稿词数，即接受长度。D-REAL 把这一接受长度写成沿草稿实际采样轨迹的期望，并用带停止梯度的接受率比值构造可微替代损失，使梯度估计无偏。在 DSpark 与 DFlash2 两种并行草稿模型、十个基准上，一轮后训练把宏平均接受长度从 5.07 提到 5.13、从 4.88 提到 5.10；GSM8K 并发服务中 DFlash2 输出吞吐提升 9.4%。

投机解码的草稿模型通常按逐词交叉熵训练，但固定开销下真正决定加速比的是目标模型连续接受的草稿词数，即接受长度。D-REAL 把这一接受长度写成沿草稿实际采样轨迹的期望，并用带停止梯度的接受率比值构造可微替代损失，使梯度估计无偏。在 DSpark 与 DFlash2 两种并行草稿模型、十个基准上，一轮后训练把宏平均接受长度从 5.07 提到 5.13、从 4.88 提到 5.10；GSM8K 并发服务中 DFlash2 输出吞吐提升 9.4%。