VenusGenome把微生物基因组当上下文来学：冻结表示在11项主指标中9项领先
核心概要
微生物基因的功能既取决于蛋白本身，也取决于它在基因组中的位置与邻接关系，而只编码单个蛋白会丢掉这层组织信息。VenusGenome把每个基因的冻结蛋白嵌入当作输入，用75%高比例掩码的自编码器迫使模型从稀疏的基因组上下文中重建被遮住的基因，并在注意力中显式区分同一contig内与跨contig的关系、编码相对链方向。在超过170万个微生物基因组组装上预训练后，冻结编码器在11项主指标中的9项取得所评估模型的最高平均表现，零样本PPI排序的基因组宏平均Spearman相关为0.300，BacFormer为0.201。
深度剖析
微生物基因组表示学习现在可以直接把基因在基因组中的位置、所属contig和相对链方向写进注意力，而不只是把一串蛋白嵌入按顺序送进模型。 此前的基因上下文模型gLM与BacFormer都用15%掩码，并采用BERT式编码器在预训练时保留被遮位置；它们也各自引入了部分结构信息，例如gLM的基因方向、BacFormer的contig嵌入与旋转位置编码。 在512M规模、同样15%掩码下，掩码自编码的零样本PPI基因组宏平均Spearman相关为0.282，BERT式重建为0.192；把75%掩码模型中的contig感知注意力去掉，相关从0.293降到0.203。
模型只让编码器看到未被遮住的基因，再由一个轻量解码器补回被遮住的蛋白嵌入，从而把上下文编码与重建分开。 高比例掩码的依据来自一个初步观察：用前后各两个基因做线性预测，重建误差比常数均值预测低15.4%，而用同一contig上四个随机基因只低8.9%，说明邻近基因提供了容易利用的重建线索。 预训练语料是超过170万个来自分离株与宏基因组的微生物基因组组装，每个样本最多4096个基因，基因输入为冻结的ESM2-35M蛋白嵌入；在4096基因输入上，掩码比例从15%升到75%使实测前向加反向时间减少65.2%。
同一套冻结表示同时用于基因组级表型预测和基因级任务，并在零样本排序上超过以蛋白嵌入为输入的基线。 单独聚合ESM2-35M蛋白嵌入在全部五项基因级指标上都不如VenusGenome，说明基因组级预训练带来了聚合单个蛋白之外的信息。 评估覆盖六个全基因组表型任务与五项基因级指标，包括BGC、必需基因、操纵子与PPI；六个表型任务用物种不相交划分，BGC与必需基因用基因组不相交划分，监督结果取五个探针训练种子的平均。
启示与展望
展示范围是微生物基因组：预训练语料为超过170万个分离株与宏基因组组装，评估限于六个全基因组表型任务和BGC、必需基因、操纵子、PPI等基因级任务，所有表示编码器保持冻结。读者对象是需要基因或基因组级表示进行下游预测的研究者；超过4096个基因的组装按重叠窗口独立编码，窗口之间没有直接注意力。
基因适应度分析被明确标为探索性：它评估的是跨实验的平均效应，不区分条件特异的响应，中位AUROC为0.673，对照的Evo2独立CDS似然基线为0.631。模型使用冻结蛋白嵌入，上下文学习被限制在蛋白编码器保留的信息之内；从512M扩到1B的零样本PPI提升小于从85M到512M，且提高掩码比例在85M模型上几乎不改变结果。