# 自回归视频生成

PixVid把预训练的潜空间视频扩散模型改造成逐帧在像素空间生成的模型：保留扩散Transformer，用卷积细节头替换VAE解码器，并从Wan2.1-14B微调。它在VBench上总分85.09（960p）与84.78（480p），高于Wan2.1的84.05和PixelUMM的83.72；在快速运动片段上保留98%的源运动，而同样微调的潜空间模型为83%。

PixVid把预训练的潜空间视频扩散模型改造成逐帧在像素空间生成的模型：保留扩散Transformer，用卷积细节头替换VAE解码器，并从Wan2.1-14B微调。它在VBench上总分85.09（960p）与84.78（480p），高于Wan2.1的84.05和PixelUMM的83.72；在快速运动片段上保留98%的源运动，而同样微调的潜空间模型为83%。

交互式世界模型长期受困于记忆随生成时长线性增长：时间上下文会耗尽显存，显式3D记忆则因逐帧累积冗余基元而变慢。L3G-World把场景记忆改为紧凑的潜空间3D高斯，只在新观测区域生成新高斯、对已有高斯做残差修正，并让每个高斯直接存VAE潜特征，从而把记忆渲染进扩散Transformer的潜空间而无需重新编码。在DL3DV与RealEstate10K的481帧闭环轨迹上，完整版L3G-World的PSNR为16.00与18.36，配合少步蒸馏后在单张H100上达到9.02 FPS。

交互式世界模型长期受困于记忆随生成时长线性增长：时间上下文会耗尽显存，显式3D记忆则因逐帧累积冗余基元而变慢。L3G-World把场景记忆改为紧凑的潜空间3D高斯，只在新观测区域生成新高斯、对已有高斯做残差修正，并让每个高斯直接存VAE潜特征，从而把记忆渲染进扩散Transformer的潜空间而无需重新编码。在DL3DV与RealEstate10K的481帧闭环轨迹上，完整版L3G-World的PSNR为16.00与18.36，配合少步蒸馏后在单张H100上达到9.02 FPS。

自回归视频扩散模型里，把生成帧写成键值上下文和去噪当前帧这两件事原本共用同一套参数，SGF+改为给两者各自独立的参数，只保留因果注意力上的前向耦合，仍用原始生成目标联合训练。在VBench的5秒、60秒、240秒评测中，SGF+在分帧与分块两种生成方式下多数画质与长时一致性指标高于Self Forcing和Self Gradient Forcing；只用5秒片段训练，即可连续生成最长24小时而无需长视频微调。

自回归视频扩散模型里，把生成帧写成键值上下文和去噪当前帧这两件事原本共用同一套参数，SGF+改为给两者各自独立的参数，只保留因果注意力上的前向耦合，仍用原始生成目标联合训练。在VBench的5秒、60秒、240秒评测中，SGF+在分帧与分块两种生成方式下多数画质与长时一致性指标高于Self Forcing和Self Gradient Forcing；只用5秒片段训练，即可连续生成最长24小时而无需长视频微调。

SemanTok 是一种灵活长度视频 tokenizer，把冻结 DINOv2 特征送入编码器并用轻量头从每个保留的 token 前缀重建这些特征，使 201M 自回归模型在保真度上追平或超过 3.4 倍大的 VideoFlexTok 模型，并在所有噪声水平（含纯噪声）下提升语义对齐。

SemanTok 是一种灵活长度视频 tokenizer，把冻结 DINOv2 特征送入编码器并用轻量头从每个保留的 token 前缀重建这些特征，使 201M 自回归模型在保真度上追平或超过 3.4 倍大的 VideoFlexTok 模型，并在所有噪声水平（含纯噪声）下提升语义对齐。

FlashForward 把自回归视频扩散中每个普通去噪前向已经算出的“飞行中”KV 缓存直接发布给后续分块复用，并用提前生成的稀疏干净锚点 KV 提供长程结构引导，从而省去仅用于更新缓存的额外前向；在最多四块 GPU 上，对 16 FPS、20 秒以上的 1.3B 与 14B 模型在 480p 和 720p 下比 HiAR 快 1.16–1.69 倍、比 Self-Forcing 快 1.42–2.92 倍，1.3B 模型 480p 的 VBench-1.0 总分为 0.838，并在 20s、35s、65s 时长上保持稳定。

FlashForward 把自回归视频扩散中每个普通去噪前向已经算出的“飞行中”KV 缓存直接发布给后续分块复用，并用提前生成的稀疏干净锚点 KV 提供长程结构引导，从而省去仅用于更新缓存的额外前向；在最多四块 GPU 上，对 16 FPS、20 秒以上的 1.3B 与 14B 模型在 480p 和 720p 下比 HiAR 快 1.16–1.69 倍、比 Self-Forcing 快 1.42–2.92 倍，1.3B 模型 480p 的 VBench-1.0 总分为 0.838，并在 20s、35s、65s 时长上保持稳定。

EditWorld 是一个视频世界模型，通过 Gated Causal Attention、Sparse Context、联合自回归与双向训练以及专门的数据合成与标注流程，在自回归生成过程中接受流式编辑指令与参考图像，并配套提出约 150 个案例、每例 240–480 帧的 WBench-Editing 基准，在该基准上取得总体 73.8、编辑 80.0 的最佳成绩。

EditWorld 是一个视频世界模型，通过 Gated Causal Attention、Sparse Context、联合自回归与双向训练以及专门的数据合成与标注流程，在自回归生成过程中接受流式编辑指令与参考图像，并配套提出约 150 个案例、每例 240–480 帧的 WBench-Editing 基准，在该基准上取得总体 73.8、编辑 80.0 的最佳成绩。