EDR:把推测解码训练目标改为直接最小化期望解码轮数,在九个基准上提升 DSpark 与 DFly 的平均接受长度
该工作把并行与半自回归推测解码草稿模型的训练建模为马尔可夫奖励过程,提出期望解码轮数(EDR)目标,用状态占用度加权局部拒绝代价,并给出精确的时序差分梯度与离线评估器;在九个数学、代码与对话基准上微调 DSpark 和 DFly 后,平均接受长度一致提升并优于端到端 TV 等既有目标。
该工作把并行与半自回归推测解码草稿模型的训练建模为马尔可夫奖励过程,提出期望解码轮数(EDR)目标,用状态占用度加权局部拒绝代价,并给出精确的时序差分梯度与离线评估器;在九个数学、代码与对话基准上微调 DSpark 和 DFly 后,平均接受长度一致提升并优于端到端 TV 等既有目标。
已读完全部报道