只看输出差距不够:把特征归因差异一并约束,六组医学影像公平性权衡全部改善
核心概要
医学影像分类的公平性通常只约束输出层面的组间差距,但线性分类头下,输出分数差等于各特征归因差的带符号求和,正负贡献可以相互抵消,使输出看似公平。研究在三种等化几率代理目标上各加入同一项归因差异惩罚,在HAM10000性别公平与Harvard-GF种族公平两个任务上,六组配对的超体积比较全部为正,相对增益1.49%至10.57%。在预设效用约束下,增强后的模型族等化几率差降低9.0%至38.7%,归因差异与抵消比同时下降。
深度剖析
公平性约束从只看模型输出扩展到同时看输出背后的特征贡献:在输出层面的等化几率正则之外,再加一项归因差异惩罚,使不同人群的预测依据更接近,而不只是最终分数接近。 此前的输出层面公平只约束预测分数与错误率在人群间的差距,并不刻画各人群在表示空间中依赖的预测特征贡献是否相似。 在HAM10000与Harvard-GF上共训练960个DINOv2-LoRA模型,三种输出层面等化几率代理目标各自加入同一归因项后,六组配对的超体积比较的95%置信区间全部为正,相对增益为1.49%至10.57%。
做法是把归因差异写成一个可微的正则项,与原有的输出公平项一起训练,两项强度分别由系数控制。 归因项按表示维度做归一化,避免惩罚随表示维度直接放大;输出项单独开启或归因项单独开启即构成直接消融。 所有方法共用DINOv2-Small骨干加LoRA适配与显式线性二分类头,训练20轮、批大小128,用AdamW与余弦学习率调度;HAM10000采用五折病灶级交叉验证,Harvard-GF采用预定义划分加五个训练种子。
在预设的效用约束下,每个增强模型族都含有等化几率差更低的运行点,且这些点的归因差异与抵消比同时更小。 输出层面的差距降低并不自动意味着特征贡献更一致,因此该分析同时检查归因差异与抵消比这两个诊断量。 相对等化几率差降低9.0%至38.7%,AUROC在六组比较中保持或略有提升,平衡准确率的变化幅度在可用文本中未给出具体数值。
启示与展望
结论建立在预设正则网格上的留出集帕累托前沿,覆盖两个二分类医学影像任务:HAM10000皮肤病变良恶性分类以性别为敏感属性,Harvard-GF视网膜神经纤维层厚度图像青光眼检测以种族为敏感属性。作者指出,精确的输出—归因分解依赖线性分类头,推广到非线性预测头需要进一步研究。
评估只限于两个二分类医学影像任务,尽管二者在成像模态与敏感属性上不同;归因分解的精确形式依赖线性分类头。抵消比被定位为诊断量而非公平性判据,只有在输出差距与归因差异都小时,低抵消才是有利的。
