给ESM3补上水的注意力：热稳定蛋白分类准确率不变，却把氢键从“失稳”改回“稳定”
核心概要
结构蛋白语言模型ESM3把蛋白当作真空中的分子，缺少溶剂信息，导致逐残基输出把氢键误判为失稳因素，且误差随溶剂可及表面积变化。HEIWA在ESM3残基嵌入上加入水—残基注意力，用可学习的水分子键向量和旋转角度项传递溶剂介导的力场信息。在热稳定蛋白分类代理任务上，加入HEIWA的模型分类指标与基线大体相当，但逐残基输出与RMSF基准和SASA的相关性改善，分子动力学温度爬升显示38个测试蛋白中23个更稳定。
深度剖析
结构蛋白语言模型ESM3的残基级输出存在系统性物理偏差：它把氢键当作失稳属性，并且预测误差随溶剂可及表面积增大而变大，说明缺少显式溶剂建模会在蛋白—水界面引入偏差。 此前的结构蛋白模型把蛋白当作真空中的分子处理，不建模溶剂分子，也不捕捉溶剂与蛋白的协同动力学；ESM3的坐标感知编码支持几何感知，但缺少力场感知。 在5125条同源序列的热稳定蛋白分类任务上，无论中间维度取多少，氢键都被系统性地判为失稳属性，与已建立的生物物理认识和基于70个蛋白的RMSF基准相矛盾；中间维度低于96时，甘氨酸还被误判为稳定属性。
HEIWA把溶剂介导的力场信息注入ESM3的静态残基嵌入，做法是让每个蛋白查询与全部水键做注意力，而不是为每个水分子指定坐标。 该模块用三类水键分别对应氢、孤对电子和氧，并以稀疏约束阻止氢键供体与受体头关注同一残基；注意力用ReLU替代softmax，使一个水头可同时作用于多个表面残基。 在120组超参数中，4溶剂头配置有4组通过生物物理筛选，逐残基输出与RMSF和SASA的相关性改善；把HEIWA换成高斯随机向量后，没有任何配置通过筛选。
在ESM3生成流程中接入HEIWA后，生成蛋白在高温下的动力学稳定性有所提高，同时ESM3嵌入的整体结构基本保持不变。 此前ESM3生成的蛋白被认为存在稳定性问题，而缺少溶剂编码可能与此相关。 对19个长度小于256个氨基酸的蛋白、两个随机种子共38个体系做310至368 K、100 ns的温度爬升模拟，配对Wilcoxon检验显示23个蛋白在完整HEIWA下更稳定、7个相近、8个更差，剔除并列后无符号二项检验p=0.011；反向SASA门控版本则无显著差异。
启示与展望
演示范围限于以热稳定蛋白分类为代理任务的ESM3残基嵌入，以及19个短于256个氨基酸的单体非膜蛋白在310至368 K温度爬升协议下的生成结构；作者提出把全原子表示与溶剂编码结合作为后续方向。
作者指出，π–π堆积这类弱相互作用可能被溶剂编码掩盖，且芳香残基频率低，尚不能判断这是力场信息缺失还是数据集偏小所致；HEIWA对无序区RMSF的影响在不同随机种子和结构间不一致，作者认为需要更大统计功效；metadynamics自由能剖面只作定性参考，不用于定量排序。