跳到主要内容
返回时间线
bioRxiv来源发表:

基因在注意力里不再按序号排队:SPEAR把共表达几何与扰动后重定位写进旋转角

核心概要

单细胞扰动预测的Transformer需要给基因一个位置,但基因没有天然顺序,静态共表达掩码又无法反映扰动引起的调控重连。SPEAR把每个基因的位置改为共表达图拉普拉斯给出的连续坐标,并在每一层由扰动条件下的隐状态重新推导标量位置,两者相加成一个旋转角。在遗传、药物和细胞因子扰动基准上,SPEAR在差异表达方向与幅度等指标上优于包括scDFM在内的基线,并在留出组合上取得最大差距。

AI-generated editorial illustration: Spectral Adaptive Repositioning for Flow-Based Single-Cell Perturbation Modeling

深度剖析

基因在注意力中的位置不再由染色体序号或固定的共表达开关决定,而由共表达网络的连续几何坐标与逐层更新的扰动相关位移共同决定。 此前的扰动模型要么按表达排名或整数索引给基因排序,要么用从对照细胞构建的静态二值共表达掩码限制注意力,这类掩码在所有细胞和条件下完全相同。 在ComboSciPlex药物扰动基准上,SPEAR在全部逐点指标上重建误差最低、生物保真度得分最高,且相对共享差分Transformer骨干与流匹配目标的scDFM在每一项指标上都有提升,Spearman-LFC与Pearson-Δ的相对增益最大。

做法是把两种位置信号都变成注意力中查询与键的旋转角,让基因之间的相互影响随扰动上下文重新排列。 谱位置编码对共表达图做归一化拉普拉斯特征分解,取除零特征向量外的前K个坐标作为每个基因的连续位置,再经每个注意力头独立学习的频率投影转成旋转角。 自适应重定位在每一层用SwiGLU门把基因隐状态投影为每个头一个标量位置,并按几何频率转成旋转角;在ComboSciPlex上,只用谱编码的变体在训练早期相对无位置编码的基线提升最大,加入自适应重定位后在训练后期继续提升,两者合并的SPEAR在收敛时三项指标最高。

位置距离本身还带有可读的调控信息,扰动后枢纽基因的邻域会重新组织。 静态共表达掩码把间接共调控和技术性共变一并算作边,边数远多于按位置距离取出的近邻。 在Norman加性划分上取第一个交叉注意力查询模块的标量位置,以位置距离作为无监督边分数,每个转录因子取前30个近邻时对TRRUST的精度约为静态基线的两倍,且边数少几个数量级。

启示与展望

演示范围是K562细胞的Norman遗传扰动、A549细胞的ComboSciPlex药物扰动和外周血单核细胞的Parse-PBMC细胞因子扰动,评估限制在前1000个高变基因,并区分加性划分与留出划分两种外推设定。

谱坐标在训练前由训练集共表达图一次算出并冻结,无法覆盖训练词表之外的基因;自适应位置在单次前向中计算,上游旋转拿不到下游层的反馈;在更嘈杂的共表达估计和全转录组规模下是否仍保持优势,原文列为未决问题。