4K图像生成不再只压去噪:绕开VAE往返,PixelRush级联从16.37秒降到8.04秒
核心概要
百万像素图像合成长期把加速重点放在去噪上,而级联流程中反复经过VAE的像素空间转换同样耗时。UltraFlash把优化对象换成这些转换:用学习到的潜空间捷径替代中间的解码—缩放—编码往返,并让最终解码以更小重叠稀疏进行。接入PixelRush后,4K生成的SD配置延迟从16.37秒降到8.04秒,FID从56.50改善到52.38。
深度剖析
百万像素图像合成的加速对象从去噪扩展到去噪前后的VAE转换,级联流程中原本被当作配套步骤的潜空间与RGB互转成为可单独优化的开销。 此前的加速工作集中在去噪或细化阶段,因为扩散采样昂贵且空间尺寸增大会抬高每次去噪的成本;而中间潜变量要先解码成RGB、缩放、再编码回潜空间,最终潜变量还要逐块解码。 在PixelRush这一级联基线上,中间RGB往返约占级联阶段运行时间的30%到40%,说明去噪之外仍有可观开销。
中间那次解码—缩放—编码往返被一个学习到的潜空间捷径取代,最终解码则改为共享归一化统计量的稀疏分块解码。 普通潜空间插值不能替代该往返,因为VAE编码器是非线性的,在潜空间缩放与先缩放RGB再编码并不等价;而稀疏分块解码原本会在块边界出现颜色偏移、亮度不一致和纹理断裂。 捷径由冻结的VAE解码首块提供空间先验、再加一个可训练投影头,并以潜变量重建损失和细化器自注意力对齐损失训练;稀疏解码把参考块的GroupNorm统计量缓存后复用于所有块,使重叠最多缩小8倍,4K设置下解码块数减少30%到40%。
在4K生成上,接入UltraFlash的PixelRush两个配置都同时变快并改善FID。 对应的PixelRush-SD为16.37秒、FID 56.50,PixelRush-XL为17.11秒、FID 54.28。 UltraFlash-SD把延迟降到8.04秒、FID降到52.38,UltraFlash-XL降到9.61秒、FID降到51.32;评测使用从LAION-Aesthetics采样的1000条提示,延迟在单张NVIDIA A100-40GB上测量。
启示与展望
该方法面向级联式百万像素图像合成,评测覆盖2K与4K分辨率、SD-Turbo与SDXL-Turbo两种细化器配置,延迟在单张NVIDIA A100-40GB上测量。视频生成等其他模态涉及额外的时间与架构因素,不在该工作范围内。
评测未报告误差棒,理由是每次完整4K评测计算代价高且使用1000条提示,作者以固定提示集、指标、硬件和评测协议来降低方差。迁移到FreeScale时运行时间只从323.93秒变为313.40秒,因为该流程仍由多步去噪主导,速度收益要在VAE转换成为主要剩余瓶颈时才充分显现。
