蛋白-配体打分不再只问“传多少”:注意力改成先编码再解码,对接成功率到88%
核心概要
TopoLIA把注意力从“传多少信息”扩展到“信息如何按目标变换”,在蛋白-配体打分与对接基准上超过同架构的标准注意力版本,CASF-2013对接成功率达88%。
深度剖析
注意力机制多学了一件事:同一份来源信息送到不同目标时,可以按目标改写成不同的形式,而不只是调整传递的权重。 标准注意力只用标量权重决定来源向目标传多少信息,同一个来源的取值表示在所有目标之间共享。 在保持持久谱表示与外围Transformer结构不变、仅把潜在交互注意力换回标准自注意力的对照下,三个CASF基准上指标一致变差,例如CASF-2016的PCC从0.857降到0.819。
做法是让来源信息先压进一个低维的潜在交互空间,再由目标把它解回特征空间,从而在不给每一对来源-目标单独建映射的前提下实现按目标变换。 此前若要对每一对来源-目标都做独立变换,需要在高维特征空间里显式参数化稠密映射,代价高且自由度过多。 在CASF-2007上把潜在维度从2扫到64,PCC在维度4和8处最高(0.808),到64时降到0.765,且维度64在32 GB的NVIDIA Tesla V100S上出现显存不足。
启示与展望
报道覆盖的是三维蛋白-配体复合物上的打分与对接评估:预训练用19,462个无标注复合物,打分在CASF-2007、CASF-2013、CASF-2016核心集上评测,对接在CASF-2013的195个配体上评测,泛化性用LBA30与LBA60的序列同一性划分检验。作者提出,潜在交互注意力本身不限于蛋白-配体,可扩展到蛋白-蛋白、蛋白-多肽、蛋白-核酸以及突变诱导的交互建模,并表示可应用于其他涉及异质组件的大语言模型。
作者指出当前表示主要建模蛋白与配体,只能间接反映环境因素,受结构水分子、金属离子、辅因子等局部化学环境影响较大的复合物仍较难预测;误差分析显示预测偏差最大的样本配体与训练集相似度很低(如0.205与0.193)。作者还说明,潜在维度存在最优区间并不意味着蛋白-配体交互本身是低维的,只是说明潜在交互空间内的信息交换可以由紧凑空间中介。
