用LLM配对比较审计急诊分诊中的性别差异
核心概要
该研究提出一种领域无关的配对比较方法，先微调大语言模型复现急诊分诊记录中的决策，再对仅翻转性别、其余临床内容保持不变的配对样本进行预测比较，在法国波尔多大学医院逾14万例就诊记录中发现女性版本比男性版本更易获得较低严重度（较不紧急）的预测分诊等级，合并每对差异率约1.1%（95% CI 0.9–1.3），并在MIMIC-IV上复现出方向一致但更大的约2.2%（1.7–2.7）差异，同时通过性别中性化重训模型使性别间预测差距消失，表明该不对称由显式性别标记介导。
Fig. 1: The workflow consists of (1) LLM fine-tuning for emergency triage prediction, (2)
· 第 3 页深度剖析
提出并验证了一套基于LLM的配对比较审计框架，可在不定义“正确”分诊标准的前提下量化记录层面决策对性别标记的敏感性。 相较此前仅提出核心方法概念的工作，本研究开发了方向性分诊偏斜（DTS）、净均值差（NMD）、净非对称分诊偏移（NATS）等指标，并给出合并每对差异率的推导，使系统性差异可被严格量化。 在波尔多大学医院急诊数据集（n=72,444测试集）与MIMIC-IV测试集上应用，所有比例类指标均报告1,000次自助法95%置信区间。
在仅翻转性别的配对中，女性版本比男性版本更易获得较低严重度（较不紧急）的预测分诊等级，且该方向在两个不同国家、语言和医疗系统的数据集中一致。 此前研究多报告女性在急性冠脉综合征、卒中、腹痛等情形下被低估严重度，但缺乏在同一临床内容下仅改变性别的配对证据；本研究以配对设计将人群层面基础疾病差异在构造上控制住。 波尔多合并每对差异率1.09%（95% CI 0.89–1.29），MIMIC-IV为2.18%（1.67–2.74）；两数据集均呈DTSF|M>0且DTSM|F<0的一致方向。
性别不对称由显式性别标记介导，且表格性别字段与文本性别线索对预测的影响方向相反。 此前框架未区分性别信息通过何种通道起作用；本研究的模态隔离分析显示，仅改文本时两个方向均以降低预测分诊等级为主（DTSF|M=−10.3%，DTSM|F=−12.3%），仅翻转表格性别字段时两个方向均以升高为主（均为+3.8%）。 在MIMIC-IV上以性别中性化输入重训模型后，男女预测均值差从−0.0332（95% CI [−0.045, −0.021]，p=6.4×10⁻⁷）缩小至−0.0005（95% CI [−0.013, +0.013]，p=0.93），而κw保持可比（0.603→0.627）。
性别差异模式随分诊护士与患者性别组合系统性变化，提示模型捕捉的是记录数据中的稳定特征而非随机伪影。 此前工作未利用护士性别信息；本研究显示女护士在男患者（M-F）和女患者（F-F）情形下均表现出最强效应，而男护士两种情形下DTS均接近零。 基于波尔多数据集中四种患者-护士性别组合的分层分析（M-M: n=8,398；M-F: n=29,444；F-M: n=6,697；F-F: n=23,820），各组合报告95%置信区间。
启示与展望
该框架适用于任何可获得决策输入（结构化或文本）并能明确定义受保护属性变换的场景，作者列举了人力资源筛选、学术录取与评分、司法风险评估与保释等应用。在急诊分诊语境下，其结果适用于记录层面的敏感性审计，用于识别哪些临床表现或情境中性别相关不对称最明显，从而生成假设；作者指出结果正在与波尔多大学医院临床医生讨论以帮助制定分诊护士培训方案，并希望经适当验证后与国家机构（如法国急诊医学会SFMU）合作推动更公平的急诊建议。
作者明确指出若干待解问题：模型输入与真实分诊所用全部线索之间存在“多模态差距”，语音语调、可见痛苦、躁动等非语言信号未被捕捉；LLM必然继承训练数据中的不对称，且可能以不同于人类的方式放大或扭曲偏见，作者正在通过潜在空间探索研究此现象；二元性别框架未涵盖性别认同全谱及其与其他人口学因素的交叉；未进行多种子微调稳健性检验；性别中性化重训仅在MIMIC-IV上完成，未在法国队列复现。此外，将记录层面差异率机械投射到法国约2,090万年度急诊量上得到的约11万例数字，作者强调其“极易被过度解读”，并非受伤害患者计数，且未锚定任何具体照护差异。读者还应留意：文本中提及的补充材料、补充图表与补充注释未随本文加载，因此部分指标定义细节与分层百分比无法在此核实。