跳到主要内容
返回时间线
arXiv来源发表:

心电图预训练改看“偏离正常”多少:冻结特征不微调,四个公开数据集AUROC最高提升6.5%

核心概要

心电图深度学习模型多按具体诊断标签监督训练,换人群、换采集条件就容易失效。这套自监督预训练框架从918,915条无标签12导联心电记录中学习特征,一路显式刻画每条导联相对正常波形的偏离,另一路在偏离线索引导下重建跨导联关联。冻结特征提取器、不做下游微调时,它在四个公开数据集上相对此前方法AUROC最高提升6.5%、F1最高提升12.8%。

Source-provided article image: Deviation-Aware Pretraining for Cardiovascular Disease Detection from Electrocardiograms
arXiv

深度剖析

心电图特征提取多了一条不依赖诊断标签的预训练路线:模型学的是每条导联波形相对正常形态偏了多少,以及这种偏离如何在12条导联之间相互印证。 此前的模型大多按特定诊断结果做监督、任务专用训练,学到的关联受训练集的人群构成、疾病分布和记录条件约束,换样本、换任务、换数据库时表征的多样性不足。 在918,915条无标签12导联记录上预训练后,冻结特征提取器、不做下游微调,在PTB-XL、ML12L、CPSC2020、WGEX四个公开数据集上相对此前方法AUROC最高提升6.5%、F1最高提升12.8%。

两路嵌入分工明确:一路把输入片段与正常心电原型比对,量化逐导联的波形偏离;另一路用这些偏离线索给同伴导联加权,重建目标导联。 偏离定位嵌入(DLE)先以贝叶斯聚类配合Soft-DTW距离构建正常心电原型码本,再用输入导联与检索到的正常原型之间的均方根误差作为逐导联偏离量。 关联重建嵌入(ARE)把DLE导出的选择性融合矩阵接进注意力,让偏离更强的同伴导联获得更高权重;两路嵌入与掩码信号拼接后送入以Mamba2为时序核心的多尺度U-Net式主干做对称掩码重建,重建损失只算在被遮住的位置上。

消融把增益拆到各组件上:从随机掩码加Transformer主干的基线出发,换成多尺度主干、加入对称掩码后平衡准确率上升,而单独加入加权轮转部分冻结(不含DLE与DMb)时CPSC2020上的平衡准确率从0.466回落到0.454。 基线在CPSC2020与WGEX上的平衡准确率分别为0.289和0.270,换成多尺度主干后升到0.397和0.337,加入对称掩码后升到0.466和0.464。 含全部组件的完整模型在CPSC2020上取得平衡准确率0.538、F1 0.536、AUROC 0.763,在WGEX上取得0.513、0.471、0.787。

启示与展望

演示范围是918,915条无标签12导联记录的预训练,加上PTB-XL、ML12L、CPSC2020、WGEX四个公开数据集的冻结特征评估与外部泛化比较,以及一个未干预诊疗的真实临床观察队列;作者提出的下一步是把当前先进的心电诊断模型接进来,以提升性能并形成更精确的临床决策支持工具。

观察队列的绝对性能受队列异质性限制,作者明确说仍有限;偏离定位嵌入单独使用时对轻度ST段抬高等弱异常区分力有限,样本分布更分散、边界重叠;这些结论来自回顾性数据集与观察性分析,尚未经过前瞻性临床验证。