跳到主要内容
返回时间线
bioRxiv来源发表:

PALM把重叠的域与位点标注一起学:2.3百万个留出蛋白上域出现F1达0.941

核心概要

蛋白质序列库的增长远快于人工注释,而现有语言模型只从序列似然学习,InterPro中的域与功能位点知识只是间接体现。PALM以ESM2为骨干,加入LoRA适配、可学习层聚合与双向LSTM编码器,并用软目标损失允许同一残基保留多个有效标注。在2,309,606个留出蛋白上,域与位点出现F1分别为0.941和0.877;在序列一致性低于20%的子集中仍为0.857和0.828。

Source-provided article image: A protein language model for domain, functional site, and variant effect prediction
bioRxiv · 第 4 页

深度剖析

蛋白质注释从单一标签变成可重叠的多标签预测:同一残基可以同时属于一个域和多个功能位点,模型分别判断有无标注以及是哪个InterPro类别。 此前的深度注释方法通常把每个残基压成一个最终类别,或只输出一段互不重叠的域划分,无法同时表达嵌套域与同位点的多种位点。 在2,309,606个留出蛋白上,域出现精确率94.49%、召回率93.77%、F1为94.13%,位点出现F1为87.74%;域类型与位点类型的宽松首选类别准确率分别为97.14%和99.45%。

注释监督改变了蛋白表示本身,使同一套嵌入在致病性判断和蛋白家族组织上携带序列似然之外的信息。 冻结的ESM2嵌入差异在ClinVar错义变异上AUROC为0.710,而PALM未接触任何变异数据库标签。 在151,823个ClinVar错义变异上,PALM嵌入扰动单独达到AUROC 0.835,与ESM2似然比等权组合后为0.877;在CATH-Gene3D的k=5近邻超家族归属上,PALM准确率0.955,ESM3为0.951,ESM2为0.825。

模型结构把序列编码与注释解码分开:ESM2-150M的30层输出经LoRA适配和可学习标量混合后送入双向LSTM,再由四个头分别预测域出现、位点出现、域类别和位点类别。 训练目标采用软目标损失,把目标概率平均分给该残基所有有效类别,而不是只奖励其中一个正确标签。 训练数据为15,365,469条映射了InterPro注释的UniRef50序列,覆盖17,951个域类别和1,383个位点类别;序列一致性分层评估使用其中686,370个已完成比对的测试蛋白。

启示与展望

评估覆盖2,309,606个留出InterPro蛋白及其中686,370个按序列一致性分层的测试蛋白,下游任务限于ClinVar、PubMind、CATH-Gene3D、Reactome与FlexiNR、PTEN等实验筛选数据。

InterPro本身混合人工知识与计算推断签名,注释不完整和类别相关会传入模型;CATH-Gene3D与训练所用InterPro注释相关,因此该超家族基准并非完全独立;ClinVar为提交型数据库,PubMind由大语言模型从文献抽取,二者各有覆盖与证据质量限制。