# 视觉-语言预训练

SentZero 是一个以句子为中心的胸部 X 光视觉-语言预训练框架：它用大语言模型把放射报告中的短语抽取并映射为“主题-存在性”的抽象句以扩充正样本对，用一项辅助损失把最相似的图像补丁拉向跨研究重复出现的临床句子以缓解假阴性，并对视觉嵌入施加句子条件化的残差调制；在 MIMIC-CXR 上预训练后，它在 Open-I、ChestXray14、PadChest、ChestXDet10、CheXpert 的零样本多标签分类和 ChestXDet10、MS-CXR 的零样本定位上多数指标优于此前的多任务零样本方法。

SentZero 是一个以句子为中心的胸部 X 光视觉-语言预训练框架：它用大语言模型把放射报告中的短语抽取并映射为“主题-存在性”的抽象句以扩充正样本对，用一项辅助损失把最相似的图像补丁拉向跨研究重复出现的临床句子以缓解假阴性，并对视觉嵌入施加句子条件化的残差调制；在 MIMIC-CXR 上预训练后，它在 Open-I、ChestXray14、PadChest、ChestXDet10、CheXpert 的零样本多标签分类和 ChestXDet10、MS-CXR 的零样本定位上多数指标优于此前的多任务零样本方法。