音视频联合生成不再让音频拖后腿：OmniOPD给音频教师更干净的视觉条件稳住蒸馏
核心概要
联合音视频生成中，音频token远少于视频，监督稀疏导致蒸馏不稳，简单加大音频损失权重反而更糟。OmniOPD让音频教师在更干净的视觉条件下生成目标、对每个提示采样多条轨迹、并按教师与学生转移差异给每个时间步加权，在JavisBench上把视频质量VQ从LTX-2.3的2.714提到3.347，同时音频质量AQ为5.449，低于音频教师的5.576。
深度剖析
OmniOPD把分别用视频奖励和音频奖励训练的两个专家教师，蒸馏进同一个联合音视频学生模型，让音频和视频能力同时进入一个模型。 此前的做法是联合优化多个模态的奖励，但音频与视频目标相互冲突、梯度不平衡，形成跨模态干扰；单独用音频奖励优化则训练不稳，还会拉低视频质量。 在JavisBench上，OmniOPD的视频质量VQ为3.347、音频质量AQ为5.449，而基线LTX-2.3为2.714和5.252，联合奖励的GDPO为2.713和5.577。
音频监督之所以稀疏，是因为音频token数量远少于视频，而音频学习又依赖视觉上下文，所以更干净的视觉条件能给音频教师提供更有信息量的目标。 直接提高音频损失权重并不能解决不平衡，反而会放大不稳定的音频学习信号，使两个模态都变差。 在JavisBench上，非对称噪声偏移s=1.5时VQ为3.332、AQ为5.376，s=2.0时VQ为3.354、AQ为5.353，均高于匹配噪声的3.174和5.342。
OmniOPD由三部分组成：给音频教师更干净视频的非对称噪声、对每个提示采样多组轨迹以扩大音频监督覆盖、以及按教师与学生转移差异逐时间步加权。 这三部分分别针对音频目标信息量不足、音频监督覆盖不足、以及部分监督信号不可靠三个问题。 在JavisBench上，多组采样G=3时VQ为3.315、AQ为5.393，单组G=1时为3.174和5.342；去掉重要性加权时VQ为3.174、AQ为5.342，软比例p=0.75时为3.322和5.381。
启示与展望
演示范围是LTX-2（22B）双流联合音视频DiT上的在线策略蒸馏，教师用DiffusionNFT加LoRA分别以视频奖励和音频奖励训练，评测在JavisBench与VBench上完成。
教师是在学生自己生成的轨迹状态上给出监督，这些状态可能与教师训练时见到的输入分布不同；当学生状态明显偏离教师支持的分布时，教师预测可能不可靠甚至误导，使蒸馏监督失效。