BacLLM把注释知识压进蛋白语言模型:只读序列,也能识别耐药基因并排序噬菌体候选
核心概要
BacLLM把UniProt注释经大模型编码成的语义表示,通过跨模态对比学习灌入ESM-2序列编码器,使推理时只读氨基酸序列。在六个耐药预测基准上,BacLLM(4B)在逻辑回归与RBF核支持向量机两种分类器下的平均F1均高于Ankh、ESM-2、ProteinBERT和ProTrek;在SHV-1 β-内酰胺酶P0AD64上,它从排名前65的位点中找回8个实验支持的减耐药位点中的6个,ESM-2一个也未找回。训练后文本分支被移除,因此这些收益来自序列输入,而非注释输入。
深度剖析
耐药分析现在可以用一个只吃氨基酸序列的编码器,同时承担耐药基因识别、耐药类别与机制判断、单残基突变效应排序和菌株级噬菌体—宿主配对。 此前的做法分两类:基于序列相似性的比对在查询蛋白与已知参考相似度低时会产生大量假阴性;ARGNet、HMD-ARG、PhageHostLearn等任务专用深度模型则依赖特定架构或任务特征,难以在监测、机制研究和治疗候选排序之间复用。 在统一的冻结编码器协议下,六个主要基准设置用逻辑回归和RBF核支持向量机评估,BacLLM(4B)在两种分类器下的平均F1都高于Ankh、ESM-2、ProteinBERT和ProTrek;在MMseqs2按85%、90%、95%、98%序列一致性分折的五折交叉验证中,BacLLM(4B)在两种分类器、四个阈值下均优于全部基线。
训练时让序列编码器向注释语义靠拢,推理时只保留序列分支,于是注释知识被压进蛋白表示而不成为输入要求。 通用蛋白语言模型要么只从氨基酸上下文学习,缺少功能注释的显式语义监督;要么像ProTrek那样对齐序列、结构与文本,但通用训练没有针对耐药领域做适配。 训练集是约12000对来自UniProt的序列—注释对,覆盖WHO优先病原菌;注释字段先由MedLLM-Llama3-8B改写成连贯描述,再由冻结的Qwen3编码,序列侧用ESM-2加两层全连接与层归一化投影到同一空间,以单向InfoNCE损失对齐。
表示空间还保留了分类任务之外的生物组织:单残基扰动、菌株间分类学关系,以及以TolC为中心的外排系统功能邻域。 这些结构并非由任务专用的蛋白互作或网络监督训练得到,而是从纯序列表示的无监督相似度中浮现。 在P0AD64上,BacLLM把Y101L排为负向概率变化最大的替换,与UniProt记录的约500倍耐药下降一致;ESKAPE菌株嵌入的无监督层次聚类把鲍曼不动杆菌与铜绿假单胞菌分成不同簇,与二者分属莫拉菌科和假单胞菌科的系统发育关系一致;TolC子网络中三个低序列一致性蛋白KPN_00995、KPN_01486、KPN_03299与TolC的AlphaFold结构比对TM-score分别为0.765、0.786、0.735。
启示与展望
已展示的范围是WHO优先病原菌上的回顾性公共数据集评估,覆盖耐药序列分类、单残基突变分析、蛋白功能网络和菌株级噬菌体—宿主配对;推理阶段只使用氨基酸序列,不引入组学或临床数据。
训练与评估都基于回顾性公共数据集,需要时间上独立和临床来源的数据才能确立泛化性;被优先排序的TolC样候选蛋白仍是计算预测,需要直接的功能验证;下游分析目前只依赖蛋白序列,未纳入其他组学或临床数据。
