跳到主要内容
返回时间线
bioRxiv来源发表:

长上下文调控模型跨物种失效:20 kb 上下文在鱼类距离反成负担,1 kb 局部序列仍可迁移

核心概要

FunFormer 把 20 kb 序列压成固定数量 token 做二分类调控活性预测,并配一个架构与参数量完全相同、只读中心 1 kb 的对照,在六种脊椎动物间互相迁移。种内 20 kb 版本在全部六个基因组上平均 AUROC 都最高,比三个已发表 1 kb 基线高 1.0 到 3.8 个百分点;但跨物种时这部分上下文收益随分化衰减,到羊膜动物分歧处接近零,在 320 到 435 百万年间反转为负,而 1 kb 模型仍能迁移进鱼类。

Source-provided article image: Long-range regulatory sequence models reveal a phylogenetic boundary in vertebrate genome evolution
Figure 1 · bioRxiv · 第 6 页

深度剖析

长上下文调控序列模型带来的额外准确率在跨物种迁移时会随进化距离衰减,并在四足动物与鱼类分歧之外变成负值,而只看局部 1 kb 的模型仍能迁移到鱼类基因组。 此前跨物种迁移研究已确认绝对准确率随距离下降,但所比较的模型在上下文长度之外还同时改变了架构、输出类型和训练数据,因此无法把差异归给上下文长度。 在 23 个源-目标方向上,FunFormer-20k 相对参数匹配的 FunFormer-1k 的余量在哺乳动物之间为 +3.4 个百分点,迁入鸡为 +0.4 个百分点,跨四足动物-鱼类分歧为 −7.8 个百分点;对六个物种在树上做全部 720 种重标号,观测到的相关 r = −0.764,P = 0.017。

模型确实读取中心 1 kb 之外的侧翼序列,但在鱼类距离上,目标基因组自身的侧翼并不比训练基因组中任意一段序列提供更多信息。 把每个测试区间中心 1 kb 之外的 19 kb 换成同基因组中 GC 匹配的真实序列,在哺乳动物之间损失 8.1 个百分点,迁入鸡损失 9.6 个百分点,说明特定侧翼携带信息。 哺乳动物模型用于鱼类基因组时,源基因组侧翼比目标基因组侧翼平均高 +4.75 个百分点(95% 置信区间 +3.00 到 +6.50),而哺乳动物之间这一差值为 +0.58 个百分点(−0.27 到 +1.42)。

在变异效应预测中,外来模型能否替代本地模型取决于目标物种自身数据是否充足,而不只取决于系统发育距离。 在数据有限的猪目标上,五个外来模型中有三个与猪自身训练的模型在统计上无法区分,斑马鱼为 −0.47 个百分点、牛为 −0.72、鸡为 −1.12。 在数据丰富的人类目标上,每个外来模型都明显更差,差距从 −3.61 个百分点(牛)到 −6.24 个百分点(斑马鱼),五个区间都不含零,且最多在 49 个组织中的 2 个上领先。

启示与展望

结论建立在六种脊椎动物、四种分歧时间以及留出染色体上典型位点的平均表现之上,迁移只在源与目标共享的(测定、组织)通道上评分。

分歧边界只能定位在 320 到 435 百万年之间,因为该区间内没有采样物种;两种鱼都携带硬骨鱼基因组加倍,与四足动物-鱼类分歧重合,本设计无法把它与分歧时间分开。