NVIDIA 把蒸馏做成可插拔 LoRA:一次训练后免训练部署到 54 个视频模型
LongLive-Plug 提出一种“一次蒸馏、处处复用”的框架,在基座模型上把单次前向的 CFG、四步采样和长上下文纠错分别蒸馏成可复用的 LoRA,无需下游再训练即可插拔部署到三个骨干家族共 54 个下游视频模型,并在 SCOPE 与 Wan2.2-Fun-5B-Control 上取得优于朴素四步采样、接近逐任务蒸馏的效果。
LongLive-Plug 提出一种“一次蒸馏、处处复用”的框架,在基座模型上把单次前向的 CFG、四步采样和长上下文纠错分别蒸馏成可复用的 LoRA,无需下游再训练即可插拔部署到三个骨干家族共 54 个下游视频模型,并在 SCOPE 与 Wan2.2-Fun-5B-Control 上取得优于朴素四步采样、接近逐任务蒸馏的效果。
已读完全部报道