稀疏自编码器特征换个尺子量:跨种子可复现不等于对应真实概念,五种子共识把可复现率提到78–98%
核心概要
稀疏自编码器(SAE)常被用来从生物基础模型嵌入中提取可解释特征,而跨随机种子可复现一直被当作特征可信的标志。研究在概念已知的嵌入上同时测量可复现性、概念覆盖与纯度:单次SAE拟合只复现27–46%的特征,却覆盖多数概念;对五个种子拟合做共识后,可复现率升到78–98%,纯度与单次拟合相当。代价是共识覆盖的谱系少于单次拟合,且所有SAE都漏掉弱细胞状态。
深度剖析
衡量SAE特征是否可信,需要把跨种子可复现性与概念覆盖、基因程序纯度分开看,因为两者在每一类嵌入上给出相反的排序。 此前把跨种子可复现当作特征可信的主要检验,并有方法通过对齐训练、原型约束或跨种子汇合来专门提高可复现性。 在五个空间转录组嵌入、Geneformer嵌入、植入程序合成数据和Pythia-70m语言模型残差流上,单次SAE拟合只复现27–46%的特征,而varimax旋转在每一来源上复现99–100%,却在任何生物或文本嵌入上最多覆盖一个概念。
对五个不同种子的SAE拟合做共识,可以筛出反复出现的特征,使保留下来的每个特征都能被有把握地解读。 单次拟合的特征在另一半细胞上重拟合时大量消失,共识则把可复现率提高到空间嵌入92–98%、植入数据89–95%、Geneformer 85%、语言模型78%。 共识特征与单次拟合一样纯:嵌合特征占共识的11–40%,而varimax为44–70%、稀疏varimax为46–69%,且在全部五个空间嵌入上共识都比任一旋转更纯。
共识的收益有明确代价,它保留的是各种子共享的强概念,丢掉的多是种子特有的细节。 与单次拟合相比,共识在五个空间嵌入中的三个上覆盖更少谱系,中位少1.0个,只保留其概念特异特征的7–64%。 在测序深度500的植入数据上,单次拟合恢复强、中、弱状态的比例为0.89、0.33、0.17,共识为1.00、0.67、0.28,varimax为1.00、0.94、0.61;训练15000步的单次拟合和拟合共识残差的第二阶段SAE都未能找回被丢弃的信息。
启示与展望
结论建立在概念已知的嵌入上:两个结直肠癌CosMx切片的五个空间嵌入、Geneformer V2的单细胞嵌入、植入程序的合成数据,以及Pythia-70m第三层残差流上的规则定义词类。作者指出,嵌入本身不携带的状态无法在这套真值上评估,所测为两种SAE变体和至多7000万参数的模型。
作者说明真值范围较窄,只有谱系、植入程序和规则定义的词类,且只测了两种SAE变体、至多7000万参数的模型和一种癌症的两个空间切片。可复现率本身也随嵌入几何与数据量变化:语言模型嵌入的有效维度约70,词类只解释12%的方差,共识可复现率为78%,低于生物嵌入的85–98%。作者提出在拟合前先去除主导方差(例如在谱系内部拟合)作为针对弱状态的更直接做法,但明确表示未做测试。
