KANResDiff 用 KAN 样条时间编码与局部薛定谔桥做残差扩散,在 LIDC 与 ISIC3 上把 GED 最多降低 18.8%、HM-IoU32 最多提升 7.7%
核心概要
该工作提出 KANResDiff,用 Kolmogorov-Arnold 网络实现局部残差扩散以做模糊医学图像分割:以基于 B 样条的 Independent Time Encoding 替代 MLP 线性时间嵌入以增强各推理阶段独立性,并以 Residual Schrödinger Bridge 用可学习权重注入确定性残差先验,在 LIDC 与 ISIC3 两个公开数据集上取得 GED 与 HM-IoU 的最优结果,GED 最大改善 16.8%、HM-IoU32 最大改善 7.7%,同时 MDM 保持有竞争力的水平。
Fig. 1. (a) Traditional MLP-based time embeddings can only be optimized globally. (b) Our proposed KANResDiff enhances indepedence across timesteps via spline-based time embeddings, which can be locally optimized. (c) Traditional residual diffusion leads to large gap between forward and backward diffusion path, hindering effective semantics modeling. (d) Our proposed KANResDiff constructs local Schrödinger Bridge with dynamic residual components to form a least-costed diffusion path, where forward and backward diffusion paths are close to each other.
· 第 2 页深度剖析
提出 KANResDiff,把模糊医学图像分割的随机性注入从固定、预定义方式改为沿推理阶段动态且渐进的过程,为每个阶段分配不同的模糊建模角色。 作者称这是首个为模糊医学图像分割实现动态、渐进随机建模的范式,区别于 cVAE、logit 分布以及既有扩散方法在固定随机形式下只在末端或全程统一注入随机性的做法。 属于方法层面的定位性主张,论文以挑战—解决方案的对照(图 1)与整体框架(图 2)说明,未给出与其他范式在机制上的定量对比。
提出 Independent Time Encoding(ITE),用局部支撑的 B 样条基函数重参数化时间嵌入,使某一时间步的优化对不在支撑区间内的时间步梯度为零,从而增强跨时间步的独立性。 相较 MLP 时间嵌入因参数集 W 全局共享而导致任一时间步优化都会改动所有时间嵌入,ITE 通过式(3)–(5)的局部支撑性质实现局部独立优化;实现上采用三次 B 样条(p=3),并借助 KAN 的抗遗忘与连续输出特性落地。 论文给出梯度推导(式 1、2、4、5)作为机制论证;消融实验(表 3)显示在 LIDC 上单独加入 ITE 使 GED100 从 0.187±0.002 降至 0.181±0.003、HM-IoU32 从 0.667±0.002 升至 0.683±0.001、MDM32 从 0.903±0.003 升至 0.908±0.002。
提出 Residual Schrödinger Bridge(RSB),在每个推理阶段构造局部薛定谔桥,用动态权重 hRSB(t) 调节确定性残差项的贡献,形成确定性与随机性的灵活协调。 传统残差扩散以固定公式(式 6)引入残差、不维持潜空间中扩散路径的真实形态;RSB 改为式(7)的可学习权重形式,并把残差项作为控制漂移纳入薛定谔桥的前向/后向偏微分方程(式 8、9),以最小代价优化扩散路径。 论文给出前向与后向两个训练目标(式 10、11),基于固定噪声调度的预训练 DDPM 做细化;消融实验(表 3)显示单独加入 RSB 使 GED100 降至 0.174±0.004、HM-IoU32 升至 0.688±0.004、MDM32 升至 0.916±0.002。
在 LIDC 与 ISIC3 两个公开数据集上,KANResDiff 在 GED 与 HM-IoU 上取得最优,MDM 保持与监督式样本级分割方法相当的水平。 论文报告 GED16、GED32、GED100 分别最多降低 18.8%、16.6%、16.8%,HM-IoU32 最多提升 7.7%;在 LIDC 上 GED100 为 0.172±0.001、HM-IoU32 为 0.701±0.001、MDM32 为 0.930±0.002,在 ISIC3 上分别为 0.139±0.003、0.773±0.002、0.942±0.003。 结果以均值±标准差形式在五次运行上报告,并与 Prob. Unet、MoSE、P2SAM、CIMD、AB、CCDM、SSB、ContourMS、SSN、c-Prob. Unet、c-SSN 等方法对比;消融显示 ITE 与 RSB 联合使用时各指标进一步提升,作者据此认为二者互补。
启示与展望
该工作面向需要输出多个合理分割假设的模糊医学图像分割场景,适用于带有多位标注者标签的公开数据,如含四个分割标签的 LIDC 肺部 CT 与含三个标签的 ISIC3 皮肤镜图像子集;实现上以单张 RTX 4090、T=1000、批大小 8、Adam 优化器与 10^-4 学习率、ITE 与 RSB 各训练 600 轮为设定,并在固定噪声调度的预训练 DDPM 上做细化。对希望减少随机性注入强度手工设定、并让早期阶段偏结构一致性、后期阶段偏多样性表达的研究者与工程实现者,这套 ITE 与 RSB 的组合提供了可复用的设计思路;代码已在论文给出的仓库地址公开。
论文的评估集中在 LIDC 与 ISIC3 两个数据集及 GED、HM-IoU、MDM 三类指标上,其他成像模态、其他标注风格与其他评价维度下的表现仍是开放问题;RSB 依赖预训练 DDPM 与固定噪声调度,其在不同骨干或噪声调度下的行为值得进一步观察;此外,ITE 与 RSB 的互补性目前由 LIDC 上的四变体消融支持,二者在不同数据分布下的相对贡献仍待更多验证。
