磁共振基础模型改按解剖对齐:不用提示框,零样本定位3D器官追平MedSAM2
核心概要
磁共振基础模型此前多在整幅图像层面学习表征,难以区分同一器官的正常与异常。A4-MR在约5万例磁共振检查、49.1万序列上分两阶段预训练,把图像与文本的对齐下沉到解剖层面,并为每个器官分别学习健康与异常的表征。冻结编码器时,它在异常检测上比MedSigLIP高1.7 AUROC,膝关节分割比MedNeXt高1.4 Dice,腹部器官分割与最佳模型相差0.4 Dice以内,且无需任何提示即可定位3D解剖,与给定真值框的MedSAM2相当。
深度剖析
磁共振基础模型开始把图像与文本的对齐单位从整幅图像下沉到单个解剖结构,并让同一器官的正常与异常在嵌入空间里分开。 此前的磁共振视觉语言模型多在图像层面学习表征,即使与放射报告对齐,也缺少显式的解剖层面结构,难以判断某个器官或区域内是正常还是异常。 在留出的2000例带报告检查上做零样本跨模态检索,整份报告图像到文本的mAP为90.13,高于Decipher-MR的77.80、BiomedCLIP的70.90和MedImageInsight的71.70。
模型用弱标注的解剖框和报告抽取的健康状态做监督,把定位、图文对齐和正常异常区分放进同一套对比学习目标。 解剖框来自开源分割模型、自研分割模型和DICOM头信息换算,报告中的解剖与健康状态由大语言模型抽取,只有一部分处理后的报告经过人工复核。 预训练语料为约5万例检查、49.1万序列,覆盖16个身体区域,其中2.55万例检查配有报告;视觉编码器为3D ViT-Base,文本编码器由PubMedBERT初始化。
冻结编码器后接轻量分割解码器,预训练表征可直接迁移到密集预测,并在标注量很少时保持精度。 端到端任务专用模型通常需要完整微调编码器,并在低标注预算下明显退化。 膝关节分割上平均Dice为87.3,高于MedNeXt与VNet的85.9和nnUNet3D的81.4;仅用10例标注时平均Dice为68.2,而VNet接近零。
启示与展望
已展示的范围是3D磁共振:约5万例检查、49.1万序列、16个身体区域上的预训练,以及检索、异常检测、分割、3D器官定位和前列腺结构化报告生成等下游任务。定位评测在AMOS22磁共振验证集上进行,排除12对不可靠真值框后为247对图像-器官,指标为预测框与真值框的3D交并比。分割评测使用冻结编码器加SegResNet解码器,覆盖AMOS、盆腔内部数据集、CirrMRI600+和膝关节数据。报告生成在内部前列腺数据集上完成,250例训练、50例验证,没有独立测试集。
预训练监督是弱且带噪的:解剖框来自分割模型与DICOM坐标换算,健康状态由大语言模型从报告抽取,只有一部分报告经人工复核,且弱掩膜被简化为边界框。编码器使用8体素块,沿任一轴小于一个块的结构无法分辨,零样本定位在肾上腺等小器官上仍落后于多切片提示的MedSAM2和数据集专用监督模型。异常被建模为每个器官的二元健康或异常状态,并在报告内传播到该器官的所有提及,不包含严重程度、共现发现或病灶级细节,异常评测也主要集中在单一器官与疾病。定位解码器只能识别固定的解剖类别表,表外解剖无法定位。
