跳到主要内容
返回时间线
Scientific Reports来源发表:

耳内镜图像不再只靠文字提示:CLNA把未写进提示的视觉差异变成可调潜变量,FID从52.91降到10.11

核心概要

耳内镜图像合成长期受限于文字提示只写诊断、不写色调与纹理等视觉细节,同一诊断类内的外观差异难以控制。CLNA在Stable Diffusion 2.1主干上加入一个风格编码器和双重交叉注意力,把这类未写进提示的属性压缩成连续潜变量,并用风格参数调节采样幅度。在正常鼓膜、分泌性中耳炎和慢性中耳炎三类耳内镜图像上,对留出的内部测试集,FID由基线Stable Diffusion的52.91降至10.11,特征空间召回率由57.67%升至90.22%。

Source-provided article image: CLNA: controllable latent space of non-prompt attributes for enhancing diversity in text-to-image synthesis
Fig. 1 · 第 2 页

深度剖析

耳内镜图像合成现在可以调节文字提示之外的视觉差异,而诊断类别仍由提示固定。 此前的可控文生图方法依赖空间图、参考图像或可组合条件信号,推理时需要额外输入;仅有诊断级提示时难以使用。 在内部测试集上,CLNA的FID为10.11,基线Stable Diffusion为52.91;k近邻召回率为90.22%,基线为57.67%。

做法是在扩散模型主干里加一条专门承载风格的通道。 风格编码器是一个卷积下采样网络,从干净图像潜变量的最后特征图两行读出高斯后验的均值和方差,再重参数化采样出风格潜变量。 该潜变量作为单个token,经双重交叉注意力注入去噪U-Net的三个下采样块、中间块和三个上采样块;训练损失由去噪项与KL正则项组成,KL权重取1。

生成图像可以部分替代真实图像训练下游分类器。 只用真实数据训练的分类器在内部测试集上F1为94.46%,在外部测试集上单次运行为83.76%。 用CLNA生成图像替换10%–40%真实训练数据后,内部测试集F1为93.57%–94.08%,外部测试集F1为84.81%–85.30%;完全用生成图像替换时,CLNA在内部测试集为78.53%、外部测试集为72.37%,基线分别为70.25%和54.26%。

启示与展望

验证范围是耳内镜图像的三类诊断——正常鼓膜、分泌性中耳炎和慢性中耳炎,内部数据来自单一中心2018至2020年的视频帧,外部数据为公开的AI-HUB耳镜图像集;FID与召回率均在域适应InceptionV3特征空间中计算。

风格参数只能调节非提示视觉变化的幅度,不能按用户指定的视觉或临床属性控制变化方向;FID与召回率的改善限于域适应特征空间,未确立与特征提取器无关的质量优势;读者研究未纳入基线模型生成的图像;每个诊断类只用一条固定提示,对提示措辞变化的稳健性未评估;两个数据集均采集自单一国家,且因数据匿名化无法进行人口学分析。