把基因组合搜索当成对抗攻击:GCG在单细胞基础模型里找重编程因子,同预算下优于贪心
核心概要
在单细胞基础模型里,过去只能逐个基因或枚举少量组合来预测过表达效果。九州工业大学团队把“选哪几个基因过表达”写成对基因词元的离散对抗攻击,用原本为语言模型设计的贪心坐标梯度(GCG)搜索组合。在Geneformer与scGPT上,同等前向计算预算下GCG对目标细胞状态的相似度提升均高于梯度池贪心,且优势随组合规模增大;但按已发表重编程因子计,单基因效应排序的命中率更高。
深度剖析
基因组合的效果不能由单个基因效应相加得到,因此需要直接在组合层面搜索。 此前单细胞基础模型的在硅扰动只处理单个基因或用户指定的小集合,组合效果主要靠枚举,而枚举能覆盖的范围很小。 在Geneformer的18条转换路径上,随机组合的实测提升对单个效应之和回归,斜率在k=2、4、8时分别为0.491、0.151、0.083,没有一条路径在任何规模上超过0.9,加性目标本应给出1.00。
把过表达基因当作对抗后缀,就能用语言模型攻击的搜索方法在组合空间里找因子。 GCG原本用于在提示词后插入若干词元以改变语言模型输出,这里换成在细胞基因序列中插入若干过表达基因。 目标函数是扰动后细胞嵌入与目标细胞类型质心(最多200个目标细胞嵌入的L2归一化中心)的余弦相似度;每步对基因独热编码求梯度,每个位置取梯度最大的256个基因,抽128个替换做前向评估并无条件接受最优者,初始集合随机、每个条件三次重启。
同等前向计算预算下,GCG找到的组合比贪心前向选择更接近目标状态。 贪心每次加入当前最好的一个基因,之后不再回头修改已选成员。 在18条路径各20个源细胞(360对)上,GCG相对梯度池贪心的提升比在Geneformer的k=2、4、8时为1.043、1.181、1.399,在scGPT上为1.175、1.190、1.204,配对t检验的p值均小于2×10⁻³。
按已发表的重编程因子衡量,搜索得到的集合命中率低于单基因排序,说明模型诱导的相似度不完全对应基因调控逻辑。 单基因效应排序是此前在硅扰动的标准用法,差分表达排序则接近历史上提名重编程因子的做法。 在Geneformer、k=8时,集合与任一已发表方案的最大重叠至少为1个因子的比例为:差分表达排序55.6%、单基因效应排序44.4%、GCG 15.6%、梯度池贪心8.3%,随机8基因子集仅1.45%;使用嵌入梯度的两类搜索平均命中11.9%,不使用的两类为4.4%。
启示与展望
演示范围是Geneformer与scGPT两个预训练模型、Tabula Sapiens中18条直接重编程路径,以及以嵌入空间余弦相似度为目标的搜索;非加性测量和集合层面命中率只在Geneformer上完成,与贪心在其自然预算下的比较及2×2分解只用了5条路径。读者对象是从事细胞重编程因子筛选和单细胞基础模型评估的研究者。返回集合的实验验证尚未进行,作者将其列为后续工作。
作者指出,目标函数是嵌入空间相似度而非实测生物学结果,返回的8基因集合是否有效需要实验检验;基准部分循环,18条路径中有8条只有3个或更少的已发表因子,路径特异AUC以其他路径因子为负类,因此绝对命中率应对照随机水平来读。数值还依赖Geneformer的一种插入约定、未调优的批大小与池大小、三次重启和单一随机种子,成本按前向次数计(一次梯度记两次),实际耗时比例可能不同;Tabula Sapiens可能与模型预训练数据部分重叠,但所有比较方法共享这一条件。
