跳到主要内容
返回时间线
Arc 研究所(Arc Institute)来源发表:

Evo 2 只给几十个例子就能从头设计增强子,九个设计里六个在小鼠脑中定位表达

核心概要

Evo 2 不再依赖大规模微调,而是把同类序列拼进提示上下文,从不到一百个例子里学会设计调控序列。研究团队用强化学习把序列到功能模型当作奖励,设计出靶向小鼠脑内特定神经元的增强子:九个设计经 AAV 递送后七个有可检测表达,六个呈空间定位标记,其中两个对第 5 层端脑外神经元达到 73% 和 95% 的特异性。增强子之外的蛋白质、CRISPR-Cas9 位点和噬菌体基因组设计目前仍停留在计算阶段,尚未做实验验证。

Source-provided article image: Evo 2 uses in-context learning to design de novo regulatory sequences with only tens of examples
Arc 研究所(Arc Institute)

深度剖析

Evo 2 现在可以只凭提示里的少量示例,从头生成具有指定生物学功能的调控序列,而不必先在大型标注数据集上微调。 此前要让 Evo 2 生成某一类序列需要微调,例如条件化生成噬菌体要用 15000 条自然样本训练;而许多有用的天然与合成序列只有几十条,几乎无法用于训练。 把 5' UTR、IRES、启动子和增强子等同类序列依次拼进提示后,随着示例增多,新序列在各类中的预测表现持续上升;从不到 100 个上下文示例出发,Evo 2 在五种调控模态上生成了产率 30–50%、序列相似度低于 60% 的功能序列。

这种能力不是训练时写进模型的,而是随模型规模和训练所用自然基因组数据一起出现的,并且表现出与语言模型上下文学习相似的内部机制。 自然基因组里并没有被显式切分好的调控元件序列,模型却能从拼接的示例中提取出训练数据里不存在的模式。 在注意力头中定位到若干候选的归纳头,消融其中一个会实际影响序列设计表现,而消融同层另一个随机头基本没有变化;用分类雅可比追踪单个示例对生成序列的影响时,示例少时高影响核苷酸集中在单条序列上,示例增多后则分散到整个提示。

把序列到功能模型改作奖励模型,可以在不重新训练 Evo 2、也不做大规微调的前提下,用强化学习循环提升生成序列的质量。 上下文学习本身已经能出序列,但团队希望同时提高效率和序列质量。 较容易的任务强化学习不到 20 分钟,较难的任务仍需数小时;在人类启动子数据集上后训练后,增强子设计表现也随之提升,而在两种细胞类型上后训练、留出第三种时,三种细胞类型的预测特异性都上升。

这些设计被直接送进活体小鼠脑内检验,其中两个增强子对第 5 层端脑外神经元的特异性达到或超过目前市面上最特异的合成增强子。 在动物体内按预期工作的细胞类型特异性增强子极难设计,而此前没有现成的大规模预测模型可以给小鼠中的 DNA 序列打分。 团队独立微调 AlphaGenome 作为奖励、用微调后的 Enformer 和 Borzoi 评估设计,三者共同预测人脑 107 种神经元类型的染色质可及性;九个设计装入 AAV 经眶后静脉注射递送,七个驱动可检测表达,六个产生空间定位标记,两个分别以 73% 和 95% 的特异性标记第 5 层端脑外神经元。

启示与展望

已展示的范围是:以 Evo 2 的上下文学习生成调控序列,并在活体小鼠脑内用 AAV 递送检验增强子设计,靶点为第 5 层端脑外神经元。团队表示计划把这一工作扩展到脑内更多细胞类型,生成特异且强的增强子。

增强子之外的设计,包括新蛋白质、CRISPR-Cas9 位点、表位特异性抗体和完整噬菌体基因组,目前都是计算产物,尚未经过实验测试。团队也指出,为人类脑细胞类型设计的设计在小鼠脑中同样起效这一点出乎意料,提示脑调控密码在演化上存在一定保守性。