ProteinMPNN的隐空间被拆成可读维度:二级结构、残基体积与血红素配位各自成轴,拨动支链氨基酸轴可改变抗体片段序列
核心概要
稀疏自编码器把ProteinMPNN编码器每层128维的稠密隐空间扩展成过完备稀疏空间,使单个维度与二级结构、残基体积、残基形状、二硫键及配体配位等蛋白特征出现相关。在Brolucizumab短链可变片段上,调高与支链氨基酸相关维度的mod=0、0.5、1三个候选在433 K分子动力学模拟中的RMSD低于原始序列、ProteinMPNN序列和GeoEvoBuilder序列,而调高幅度最大的mod=2在该温度下明显去折叠;未做激活调整的mod=0同样改善,说明稀疏自编码器本身也改变了预测。
深度剖析
ProteinMPNN的隐空间现在可以被拆成一个个单独可查的维度,而不是一团混装多种信息的稠密向量。 此前这类结构到序列模型把信息压缩在128维节点向量里,多个特征共用同一维度,模型依据哪些蛋白性质做出预测无法直接读出。 在1,149个X射线结构约43万个残基的编码随机降采样到43,000个样本后,SAE256第三层与残基体积的相关性达到0.893,与β折叠达到0.826,与无规结构达到0.802,均高于未加稀疏自编码器的原始编码。
稀疏自编码器插在ProteinMPNN编码器每一层之后,把稠密激活展开成更宽、更稀疏的表示,再解码回原维度。 训练时ProteinMPNN权重保持冻结,只训练稀疏自编码器,因此展开的是模型已有的表示,而不是重新训练一个蛋白设计模型。 研究训练了扩展1、2、4、8倍的四种模型,分别对应128、256、512、1024维,并在三层编码器上各自独立训练;SAE256与SAE512在特征相关性上表现最好,SAE256因维度更少而被选来做后续操纵。
稀疏激活可以被直接调高,从而改变ProteinMPNN输出的序列,而不只是用于观察。 相关性只能说明某个维度与某特征同时出现,调高激活则检验这种关系是否影响预测。 在Brolucizumab的252个残基中,对104个溶剂可及表面积低于20%的埋藏残基调高与支链氨基酸相关的维度,mod=0、0.5、1三个候选在433 K模拟中RMSD稳定在约5 Å,而原始序列、ProteinMPNN序列和GeoEvoBuilder序列在该温度下明显去折叠,mod=2也在该温度下明显去折叠。
启示与展望
演示范围限于ProteinMPNN编码器的节点隐空间,边隐空间未评估;特征相关使用1,149个分辨率优于2.5 Å、长度少于500个残基的X射线结构,操纵实验只在Brolucizumab一个短链可变片段上进行,并用鸡蛋清胱抑素1CEW检验稀疏自编码器偏置。
相关性未必是因果,作者明确表示实际关系只能靠后续实验确定;定性特征标注由人工完成、未做多用户交叉验证,作者称其不构成特征存在的确证;未调激活的mod=0候选也出现热稳定性改善,作者归因于稀疏自编码器训练残差使预测偏向更疏水的氨基酸,并指出维度间相互作用会削弱操纵效果。
