跳到主要内容
返回时间线
arXiv来源发表:

超声诊断不再只看平均准确率:多查询注意力保住异质证据,训练期正则把敏感度提到0.874

核心概要

患者级超声诊断此前多依赖单一注意力瓶颈聚合多视图,容易把稀疏的恶性征象稀释掉,并只优化总体准确率。C2LUE把聚合换成多查询交叉注意力,让多个可学习查询分别提取互补的形态学证据,并在训练中用一个可微的敏感度—特异度几何均值正则惩罚两类错误失衡。在活检证实的甲状腺与乳腺超声数据集上,患者级AUC达到0.932与0.936,敏感度提升到0.874与0.876,代价是特异度有所下降。

Source-provided article image: C^2LUE: Clinically Aligned Patient-Level Ultrasound Diagnosis via Evidence-Aware Multi-Instance Learning
Figure 1 · arXiv

深度剖析

患者级超声诊断的聚合方式从单一注意力瓶颈改为多查询交叉注意力,多个可学习查询各自充当证据提取器,在分类前保留不同视图上的互补征象。 此前的均值池化、最大池化或单查询注意力会把异质证据压进一个表示瓶颈,要么稀释稀疏的局灶征象,要么被单个高分实例主导,出现单模态注意力坍缩。 在活检证实的甲状腺数据集ThyroidXL上,四查询设计的患者级AUC为0.932,高于单查询的0.916和八查询的0.914;在乳腺数据集BUS-BRA上为0.936,高于单查询的0.887和八查询的0.888。

训练目标在交叉熵之外加入一项可微的敏感度—特异度几何均值正则,在训练过程中惩罚两类错误的失衡,而不是把临床工作点完全留给事后阈值调整。 标准交叉熵只最小化总体分类误差,在不平衡队列中容易偏向多数类,产生不理想的敏感度—特异度取舍。 去掉该正则项时,ThyroidXL上的敏感度为0.813、特异度为0.907;加入后敏感度升到0.874、特异度降到0.876,AUC从0.912升到0.932,代价是特异度下降。

实例特征由经LoRA适配的DINOv3基础模型编码,只微调注意力与投影层的低秩参数,而不是冻结或全量微调整个骨干。 冻结骨干在ThyroidXL上AUC为0.877,全量微调为0.926,两者都不如低秩适配。 低秩适配在ThyroidXL上AUC为0.932、敏感度0.874,在BUS-BRA上AUC为0.936、敏感度0.876;全量微调在BUS-BRA上AUC为0.942,略高于低秩适配。

启示与展望

评估覆盖两个活检证实的超声基准:ThyroidXL包含来自4,093名患者的11,635张图像,BUS-BRA包含来自1,064名患者的1,875张乳腺图像,均按官方划分在患者级报告AUC、AUPRC、敏感度与特异度,阈值在训练集内部验证子集上按几何均值选定后固定。消融显示四查询、拼接融合与低秩适配是默认配置,视图数量增加时AUC与几何均值总体改善。适合关注医学图像多实例学习与临床取舍对齐的研究者和工程师阅读。

正则权重过大会过度约束优化,论文指出需要适中的权重;特异度在敏感度提升的同时有所下降,ThyroidXL上从0.907降到0.876,BUS-BRA上从0.916降到0.879。全量微调在BUS-BRA上的AUC为0.942,略高于低秩适配的0.936,说明参数高效适配并非在所有指标上都占优。