稀疏自编码器特征换个尺子量:跨种子可复现不等于对应真实概念,五种子共识把可复现率提到78–98%
稀疏自编码器(SAE)常被用来从生物基础模型嵌入中提取可解释特征,而跨随机种子可复现一直被当作特征可信的标志。研究在概念已知的嵌入上同时测量可复现性、概念覆盖与纯度:单次SAE拟合只复现27–46%的特征,却覆盖多数概念;对五个种子拟合做共识后,可复现率升到78–98%,纯度与单次拟合相当。代价是共识覆盖的谱系少于单次拟合,且所有SAE都漏掉弱细胞状态。
稀疏自编码器(SAE)常被用来从生物基础模型嵌入中提取可解释特征,而跨随机种子可复现一直被当作特征可信的标志。研究在概念已知的嵌入上同时测量可复现性、概念覆盖与纯度:单次SAE拟合只复现27–46%的特征,却覆盖多数概念;对五个种子拟合做共识后,可复现率升到78–98%,纯度与单次拟合相当。代价是共识覆盖的谱系少于单次拟合,且所有SAE都漏掉弱细胞状态。
已读完全部报道