RNA语言模型开始读结构：structRFM用2100万序列-结构对预训练，三级结构适配比肩AlphaFold3
核心概要
structRFM把碱基配对关系直接写进掩码语言建模，用2100万条RNA序列-结构对预训练，并配套多源二级结构集成MUSES与动态掩码比例。它在零样本同源分类中排名靠前，在二级结构预测上建立新基准；其三级结构适配模块Zfold在CASP15-natural、CASP16与RNA-Puzzles上同时改善三维预测及从中提取的二级结构，性能与AlphaFold3相当。
深度剖析
RNA基础模型不再只从序列学起，structRFM把碱基配对这一层结构信息放进预训练目标，使同一个模型能同时输出序列级、核苷酸级和配对级特征，供多种下游任务适配。 此前的RNA语言模型主要依赖大规模序列数据，结构信息往往来自有噪声的注释或任务专用目标，可能限制泛化能力。 模型在零样本同源分类中排名靠前，并在二级结构预测上建立新基准，说明结构引导的预训练在未见过的任务上仍然有效。
具体做法是在掩码语言建模中加入配对匹配操作，让被遮住的碱基同时参考其潜在配对伙伴，而不是只根据上下文序列猜。 为压低结构注释的预测偏差，训练使用MUSES，即由多来源二级结构预测组成的集成；同时用动态掩码比例在结构引导掩码与核苷酸级掩码之间取得平衡。 预训练语料为2100万条RNA序列-结构对；数据中rRNA与tRNA分别占66.3%和16.7%，规范配对约占全部配对相互作用的一半，其中GC为26.5%、AU为14.4%、GU为7.2%。
结构引导的收益不止于二级结构，适配到三级结构预测的Zfold同时改善三维模型和从三维模型提取的二级结构。 在CASP15-natural、CASP16与RNA-Puzzles三个评测集上，Zfold的三维预测及其提取的二级结构均得到改善，性能与AlphaFold3相当。 评测覆盖CASP15-natural的8个、CASP16的13个和RNA-Puzzles的20个独立RNA靶标，比较指标包括ϵRMSD、TM-score、GDT-TS与INF。
启示与展望
已展示的范围是：在零样本同源分类、二级结构预测基准、CASP15-natural、CASP16与RNA-Puzzles三级结构评测，以及IRES识别与ncRNA分类等功能预测任务上的表现；预训练数据、模型权重与源代码公开可得。
作者报告structRFM在天然靶标上通常优于含密集长程相互作用的合成靶标，但有时无法预测短的局部茎区，从而形成较大的多环；在三级结构评测中，它对病毒与适配体靶标表现较好，对多聚体与细菌靶标表现较差。