# VA-TDM

少步扩散蒸馏长期依赖学生分数估计，而中间步骤的分数难以准确跟踪，估计出的分布可能与更新学生所用的分布不一致。VA-TDM把监督对象换成由学生采样过程构造的速度场，用学习到的评论器比较学生与教师速度场并把分歧转化为生成器反馈，同时统一了分数蒸馏、Fisher匹配与矩匹配。在SD3.5-Medium四步生成上，GenEval从TDM的0.61升到0.67；在33B的MiniMax-H3上，同预算4-NFE下人类偏好对比中胜Fast-H3的比例为61.33%，对100-NFE教师的偏好率为45.53%，Fast-H3为24.67%。

少步扩散蒸馏长期依赖学生分数估计，而中间步骤的分数难以准确跟踪，估计出的分布可能与更新学生所用的分布不一致。VA-TDM把监督对象换成由学生采样过程构造的速度场，用学习到的评论器比较学生与教师速度场并把分歧转化为生成器反馈，同时统一了分数蒸馏、Fisher匹配与矩匹配。在SD3.5-Medium四步生成上，GenEval从TDM的0.61升到0.67；在33B的MiniMax-H3上，同预算4-NFE下人类偏好对比中胜Fast-H3的比例为61.33%，对100-NFE教师的偏好率为45.53%，Fast-H3为24.67%。