跳到主要内容
返回时间线
arXiv来源发表:

PixVid把视频生成搬回像素空间:每帧独立出token,相机控制下一帧就生效

核心概要

PixVid把预训练的潜空间视频扩散模型改造成逐帧在像素空间生成的模型:保留扩散Transformer,用卷积细节头替换VAE解码器,并从Wan2.1-14B微调。它在VBench上总分85.09(960p)与84.78(480p),高于Wan2.1的84.05和PixelUMM的83.72;在快速运动片段上保留98%的源运动,而同样微调的潜空间模型为83%。

AI-generated editorial illustration: Back to Pixels: Lifting Latent Video Diffusion into Pixel Space

深度剖析

视频生成不再必须经过VAE的时空压缩:PixVid让每个token只覆盖单独一帧的一块像素,因此条件、动作和编辑都能落到具体帧上。 此前的潜空间视频模型用3D VAE把若干帧压成一个不对应任何单帧的潜变量,条件只能作用于帧组,快速运动时物体变形、编辑错位,自回归生成还要等满一个帧块的输入。 在VBench上,PixVid 480p总分84.78、960p总分85.09,Wan2.1为84.05,从零训练的像素空间模型PixelUMM为83.72;人类偏好研究显示评审在所有比较中更偏好PixVid。

改造只换输出接口:保留预训练DiT,输入端用拟合VAE编码器的线性映射初始化像素patch嵌入,输出端用轻量因果卷积细节头把token渲染成像素。 从零训练像素空间视频模型需要难以承受的数据和算力,而预训练潜空间模型已经具备高层语义与运动先验。 从Wan2.1-14B微调,在M个训练片段内收敛,并在Wan2.1与Wan2.2系列不同VAE的模型上迁移;消融显示卷积头把patch接缝中位数从118.6降到13.3,预测干净视频把像素噪声中位数从62.25降到0.78。

逐帧像素生成同时缓解三个结构性限制:分辨率、快速运动下的控制对齐、控制到屏幕的延迟。 潜空间模型把分辨率翻倍会带来更多token和注意力计算,而时间压缩让控制至少延迟一个帧块。 把patch从8加倍到16后,PixVid以与480p相同的每帧token数生成960p;深度条件编辑在快速片段上运动误差10.7像素、深度误差0.109,同样微调的潜空间模型为17.9和0.136;经自强制蒸馏后,相机控制的中位延迟从495毫秒降到34毫秒。

启示与展望

演示范围覆盖文生视频、960p高分辨率生成、基于逐帧深度的视频编辑,以及相机控制的流式自回归生成;评测使用VBench、Movie Gen Video Bench提示的人类偏好研究、股票视频加Video Depth Anything深度,以及九个公开数据集提供的相机路径。

没有时间压缩时,PixVid每秒视频处理的token数与480p的Wan2.1相当,短的低分辨率片段成本更高;逐帧生成吞吐低于SolarWM(29.4对72.0帧每秒),相机旋转与平移误差更高(5.44°对4.24°、0.312对0.231),作者归因于更长位姿序列上的漂移并留待后续工作;VBench在评分前会把帧缩到至多像素,因此不衡量960p新增的细节。