bioRxiv 2026年9月15日本文提出分层时序 Transformer(HTT),第一层用 LoRA 适配的 BiomedBERT 编码单份报告,第二层用时序 Transformer 结合以就诊间隔天数构建的连续时间位置编码和可学习的癌种嵌入读取患者完整报告序列;在受控合成连续影像报告语料上验证 AUROC 达 0.942(单报告基线 0.881),迁移到留出的胰腺癌达 0.995(基线 0.949),在 TCGA-Reports 的 4,786 份真实病理报告、14 个癌种上对三个完全未参与训练的癌种预测肿瘤分级,AUROC 分别为甲状腺癌 1.000、肉瘤 0.960、肺鳞癌 0.808,留出癌种平均 AUROC 0.923 与分布内测试 AUROC 0.923 持平,消融本文提出分层时序 Transformer(HTT),第一层用 LoRA 适配的 BiomedBERT 编码单份报告,第二层用时序 Transformer 结合以就诊间隔天数构建的连续时间位置编码和可学习的癌种嵌入读取患者完整报告序列;在受控合成连续影像报告语料上验证 AUROC 达 0.942(单报告基线 0.881),迁移到留出的胰腺癌达 0.995(基线 0.949),在 TCGA-Reports 的 4,786 份真实病理报告、14 个癌种上对三个完全未参与训练的癌种预测肿瘤分级,AUROC 分别为甲状腺癌 1.000、肉瘤 0.960、肺鳞癌 0.808,留出癌种平均 AUROC 0.923 与分布内测试 AUROC 0.923 持平,消融分层时序 Transformer:从病理报告预测癌症分级并实现跨癌种迁移本文提出分层时序 Transformer(HTT),第一层用 LoRA 适配的 BiomedBERT 编码单份报告,第二层用时序 Transformer 结合以就诊间隔天数构建的连续时间位置编码和可学习的癌种嵌入读取患者完整报告序列;在受控合成连续影像报告语料上验证 AUROC 达 0.942(单报告基线 0.881),迁移到留出的胰腺癌达 0.995(基线 0.949),在 TCGA-Reports 的 4,786 份真实病理报告、14 个癌种上对三个完全未参与训练的癌种预测肿瘤分级,AUROC 分别为甲状腺癌 1.000、肉瘤 0.960、肺鳞癌 0.808,留出癌种平均 AUROC 0.923 与分布内测试 AUROC 0.923 持平,消融本文提出分层时序 Transformer(HTT),第一层用 LoRA 适配的 BiomedBERT 编码单份报告,第二层用时序 Transformer 结合以就诊间隔天数构建的连续时间位置编码和可学习的癌种嵌入读取患者完整报告序列;在受控合成连续影像报告语料上验证 AUROC 达 0.942(单报告基线 0.881),迁移到留出的胰腺癌达 0.995(基线 0.949),在 TCGA-Reports 的 4,786 份真实病理报告、14 个癌种上对三个完全未参与训练的癌种预测肿瘤分级,AUROC 分别为甲状腺癌 1.000、肉瘤 0.960、肺鳞癌 0.808,留出癌种平均 AUROC 0.923 与分布内测试 AUROC 0.923 持平,消融