Speciesformer:跨物种生成式虚拟细胞建模的保守细胞状态学习
核心概要
该研究提出 Speciesformer,一个在 SpeciesCorpus(约1.31亿细胞、11个物种、154种组织、923种以上细胞类型)上预训练的跨物种生成式单细胞基础模型,通过进化信息引导的宏基因词汇表将物种特异基因映射到共享基因空间,其编码器学习可迁移的细胞与基因表征,其统一生成式解码器支持细胞状态与生物文本描述的双向生成以及从初始细胞状态和干预描述预测扰动后转录组,并在多项基准上报告了优于现有基线的表现。
specific outputs (Fig. 1d). Full details of Speciesformer architecture are provided in Methods and Supplementary Notes.
bioRxiv · 第 4 页深度剖析
构建了跨物种共享基因空间:用 ESM-2 蛋白嵌入结合核原型分析(kernel archetypal analysis)和逆向进化树策略,构建 Deuterostomia 层级的宏基因词汇表,得到 11 个物种共享的 862 个宏基因,从而在不依赖一对一 ortholog 映射的情况下对齐物种特异基因。 相较以往直接将蛋白嵌入当作基因 token 的跨物种模型,该工作把嵌入用于构建进化分层的宏基因词汇表,在共享基因空间的同时保留物种特异转录信息。 方法层面给出了宏基因构建流程与 862 个共享宏基因的数量,并在 SpeciesCorpus(131M 细胞、11 物种、462 数据集、154 组织)上完成预训练。
编码器提供可跨任务泛化的细胞与基因表征:在五个人类组织数据集的细胞类型注释中,Speciesformer 在总体准确率上优于 scGPT、Geneformer、UCE、CellFM,并在五个数据集中的四个取得最高 macro-F1;在 Adamson 与 Norman 两个 CRISPR Perturb-seq 数据集上,对留出扰动实现全局 Pearson 相关 0.98 与 0.99。 把跨物种预训练表征用于注释与遗传扰动预测,并在留出扰动上评估泛化,而非仅在已见扰动内插值。 注释任务覆盖三个 intra-dataset 与两个 inter-dataset 设置;扰动任务在 Adamson(86 个单基因扰动、68,603 细胞)与 Norman(105 个单基因与 131 个双基因扰动、91,205 细胞)上以留出扰动评估,并报告六项指标。
基因嵌入在微调前即编码可解释的功能结构:在人类免疫数据集上,基因嵌入将功能相关基因聚为 25 个模块,其中 M10 富集膜运输与 ESCRT-III 介导的核膜闭合过程、M11 涉及翻译、无义介导的 mRNA 降解与 rRNA 加工,模块内平均相关高于匹配表达均值与方差的随机基因集(999 次置换,BH q = 0.0125)。 表明预训练基因嵌入本身携带调控与功能关系,而不仅是下游任务微调后的产物。 基于 25 个模块、35 种细胞类型的 Reactome AUROC 分析,并给出置换检验与 BH q 值,M10 与 M11 目标细胞类型 AUROC 分别为 0.913 与 0.859。
统一生成式解码器实现细胞状态与文本的双向生成及扰动条件生成:在人类跨组织免疫数据集(29,790 细胞、34 种细胞类型)上,表达到文本生成取得 73.4% 精确标签匹配(2,978 个测试细胞中 2,185 个正确),文本到表达生成在零样本与微调下均优于 scVI、scDiffusion、scGPT、C2S、scMMGPT、InstructCell;在 Tahoe-100M、SciPlex3、Parse-PBMC 上,扰动条件生成在多项指标上取得领先或接近领先的表现。 把比较分析、表征探测、细胞状态生成与扰动预测统一到同一架构与同一 orthology-aware 宏基因空间,而非作为彼此独立的问题处理。 文本生成以 BLEU、ROUGE、METEOR、MMD、EMD 及标签准确率评估;伪细胞生成以外部 kNN 分类器与标记基因模式评估;扰动预测在统一 Cell-Eval 协议下报告 PCC(Delta)、PDS(L2)、DE 重叠、AUROC、AUPRC 等指标。
启示与展望
该结果面向跨物种单细胞转录组研究,适用于需要共享细胞状态空间、跨物种知识迁移、文本条件细胞状态生成以及扰动响应跨情境预测的场景,例如从数据丰富物种向数据稀缺物种迁移、在未观测细胞情境中预测药物或细胞因子响应。其设计意图是在同一 orthology-aware 宏基因空间中比较物种、组织与实验体系,因此对以人类单一物种为中心或需要空间组织信息的分析,适用性取决于后续扩展。
读者仍会关注:批次效应与数据集特异偏倚在统一框架中的处理方式,因为文中将其列为当前基础模型共有的待解问题;空间转录组尚未纳入建模,组织架构与局部邻域信息如何影响细胞状态仍待探索;扰动预测在更广扰动模态、数据集与生物情境中的表现需要持续评估;此外,本文为预印本,部分结果依赖补充图表与补充表格,若这些材料不可见,对具体指标与模块细节的核对会受到限制。
