随机扩散采样不必再靠高阶近似:F-DDPM把模型评估挪到更干净的前瞻点,同预算下FID更低
随机扩散采样器一直比确定性采样器慢,提高近似阶数也未必能改善其强收敛阶。F-DDPM把数据预测模型改在由前一步预测和已注入噪声构造的更干净前瞻点上评估,每步仍只做一次模型评估,并具有一阶强收敛保证。在CIFAR-10、ImageNet、FFHQ和LSUN上,它在相同NFE预算下的FID低于所比较的随机基线;用1.5倍NFE时,在许多设置中接近或优于确定性基线。
随机扩散采样器一直比确定性采样器慢,提高近似阶数也未必能改善其强收敛阶。F-DDPM把数据预测模型改在由前一步预测和已注入噪声构造的更干净前瞻点上评估,每步仍只做一次模型评估,并具有一阶强收敛保证。在CIFAR-10、ImageNet、FFHQ和LSUN上,它在相同NFE预算下的FID低于所比较的随机基线;用1.5倍NFE时,在许多设置中接近或优于确定性基线。
扩散模型在采样时会累积自身预测误差,一个以基础模型预测为输入、用同一干净目标训练的修正器,在ImageNet类条件生成上把DiT-XL/2的FID从9.58降到2.07,无需引导即可接近CFG水平。
该工作提出免训练的保留感知激活引导(RASteer):先从待保留概念构建保留子空间,用保留正交引导(ROS)从擦除方向中去除与保留子空间对齐的分量,再用重叠自适应校准(OAC)按每层、每去噪步中擦除方向与保留子空间的重叠程度控制共享分量的去除量,从而在擦除目标概念与保留其他内容之间取得更好平衡;在多个骨干与基准上的不安全内容、实例与艺术风格擦除实验中,RASteer 匹配或超越所评估的激活引导与权重编辑基线。
该工作提出 Agent Priors-guided Policy Learning(APPL):由一个构建智能体把完整演示切分为可复用技能、为每个技能提出多个结构先验并各训练一个 Diffusion Policy,再把同一先验写成运行时接口,由运行时智能体据此选择与组合冻结策略;在六个 MetaWorld 任务上,两次演示下的 OOD 成功率由固定关系先验的 37.9% 提升到 89.6%,在五个长程 ManiSkill 任务上,物体位置偏移下成功率为 50.0%(全任务 Diffusion Policy 为 10.0%),任务级变体为 92.5%,并解出 16 个未见技能组合中的 8 个,而隐藏接口信息后成功率显著下降。
该工作提出 FoMo:把参考图前向加噪到某个采样时间步后再独立去噪,用这个“分叉时刻”作为点对点感知距离标签,无需任何人工标注即可生成训练数据,并用 RankNet 式全局排序目标训练参考型图像质量评估指标;在 PIPAL、TID2013、CSIQ、LIVE 四个基准和七种骨干上取得最佳平均表现,其中 PIPAL 上 LPIPS-Alex 达到 0.733 的 SROCC,高于使用人工标注数据(如 KADID-10k 的 0.577)的同架构结果。
该研究对文本到视频扩散模型的“运动规划”过程做了可解释性分析,发现自注意力中RoPE引起的过度空间注意力衰减会让早期候选区域过早锁定到物理上不合理的位置,并据此提出一种仅在不同去噪步上缩放RoPE频率的轻量架构改动,在免训练与基于训练的实验中提升了生成视频的物理常识。
该工作提出 BiasRecon,一个基于“最小干预”原则的偏置校准自适应框架,通过交替优化频率引导的先验校准(在 U-Net 各跳跃连接层用可学习标量 α、β 调制低/高频分量,仅引入 2L 个参数)、基于分数的去噪以及用 Stein 无偏风险估计(SURE)自适应调节正则化参数 γ,在 FastMRI 膝(训练集,973 个体积)上训练后直接迁移到 FastMRI-Brain(跨解剖)、Stanford Knee(跨中心)和 CMRxRecon(组合偏移)三个开放世界测试集,在 8× 高斯一维欠采样下分别比 DDS 提升 +1.19 dB、+2.06 dB、+1.60 dB PSNR,并在 12 项采样/加速设置中 10 项最优。
已读完全部报道