跳到主要内容
返回时间线
arXiv来源发表:

动态世界模型不再逐帧重渲染:把静态与动态内容存进4D潜缓存,条件获取耗时占比从14.9%降到0.25%

核心概要

动态世界建模中,同一批观测要为不同时刻和视角的多次生成提供条件,此前每次请求都要把重建场景渲染成RGB再重新编码。4LC把多个视觉编码器提取的静态与动态内容表示绑定到共享的几何与运动上,做成可按任意时刻和视角直接读取的4D潜缓存,省去逐请求的渲染与重编码。在相同生成设置下,条件获取占端到端生成时间的比例从NeoVerse的14.9%降到0.25%,单个4LC-Video模型无需任务特定微调即可覆盖相机控制、时间控制、新视角合成、场景重访和长期生成五类任务。

AI-generated editorial illustration: 4LC: 4D Latent Cache for Efficient Conditioning in Dynamic World Modeling

深度剖析

视频世界模型的条件获取从每次请求重新渲染重建场景,改为对一次编码的缓存做直接读取。 此前的几何条件管线把场景保存在显式三维重建或空间记忆中,每个新的生成请求仍要渲染出RGB视图并重新编码,这部分重复处理会占去总生成时间的可观份额。 在同样使用Wan2.1骨干与VAE编码器、81帧请求的设置下,NeoVerse的条件获取占18.47秒端到端时间的14.9%,4LC-Video为16.19秒中的0.25%。

缓存里存的不只是一种特征,而是多个编码器对同一场景的表示,它们共享同一套几何与运动。 已有的潜空间复用方法把特征存在特定生成器的潜空间中,且缓存不包含动态内容。 默认配置用FLUX.2 VAE与V-JEPA 2.1,加入DINOv2和VGGT后读取延迟从162.03毫秒升到255.20毫秒、峰值显存从0.763 GiB升到1.605 GiB,仍低于渲染并编码一种表示的开销。

读取接口把缓存单元按请求时刻做时间传播、按目标相机做投影,再用覆盖掩码把多次读取拼起来。 缓存条目按插入顺序组织,源条目在读取后保持不变,可继续服务后续请求。 在相机控制任务上,4LC-Video的旋转与平移误差为0.037和0.089,低于NeoVerse的0.059和0.120;时间控制下为0.041和0.060,同样低于NeoVerse的0.057和0.080。

同一个检查点通过改变源观测、时空请求和历史复用方式,承担五类生成任务。 基线方法往往在相机跟随与场景一致性之间二选一:NeoVerse相机误差低但一致性较差,GEN3C与SpaceTimePilot保持一致却接近静态视角、相机误差高出数倍。 在RealEstate10K新视角合成上LPIPS为0.188、PSNR为18.94,与LiveWorld的19.04相差0.1 dB以内;在WorldScore场景重访上PSNR比LiveWorld高1.84 dB;在MBench-A长期生成上Environment与Causal得分分别为85.56和89.06,为对比方法中最高。

启示与展望

报道覆盖的是动态世界建模中的条件获取环节:缓存保存源观测的视觉表示,读取时按请求时刻传播几何、按目标相机投影,并按覆盖掩码组合多个条目。实验在Wan2.1-T2V-14B骨干、VACE控制分支和NeoVerse重建器上完成,训练使用SpatialVID、RealCam-Vid与OpenVid的单目片段,推理生成81帧片段。效率数字在NVIDIA A100上取50次运行平均,且各框架的场景构建时间被排除在计时之外。适合关注视频世界模型、条件控制与推理效率的研究者和工程师阅读。

4LC依赖前馈4D重建模型估计深度、相机参数和运动,其估计误差会影响读取质量,尽管训练中做了增强。长期生成阶段只复用历史条目中的静态单元,跨生成段的动态复用留待后续工作。直接读取与重编码的特征相似度并不一致:语义与几何特征保持稳定相对结构,VAE特征相对相似度较低,中位数为FLUX.2 VAE的0.85和Wan2.1 VAE的0.71。运动阈值在0.05到0.4像素每帧范围内表现稳定,但关闭运动过滤会明显变差。