mRNA基础模型的读出方式换了：按5′UTR、CDS、3′UTR分段取均值，翻译与稳定性预测提高11–25%
mRNA基础模型通常把整条转录本的词元嵌入做全局平均，再训练线性探针，短调控区的信号因此被长区域稀释。一种不增加参数的区域感知读出改为在5′UTR、编码序列和3′UTR内分别取均值再拼接，在20个冻结模型上使翻译与稳定性任务的Pearson相关平均提高11–25%，且没有任何模型在回归任务上显著变差。分类任务的AUPRC变化为−3%到+11%。
DNA-LLM2Vec把因果DNA解码器改成双向编码器：冻结探针下，增益随任务与骨干而变
DNA-LLM2Vec把已预训练的因果DNA解码器分阶段改造成冻结的双向编码器：先打开双向上下文，再用掩码下一词预测修补由此产生的不匹配，最后加入编码链不变性与位置不变性的对比视图。在DNAGPT与HyenaDNA两个骨干、七个生物任务族上，收益并非一致，而是取决于任务结构与骨干；裁剪对比学习对增强子—启动子互作和Virus-COVID这类长上下文任务帮助最大，冻结Avg-EPI MCC分别达到27.5%和26.7%。
DisParQ 用冻结 DINOv2 自监督学习离散部件概念，ImageNet 线性探测达 83.2% top-1
DisParQ 提出一种无需类别标签和语言监督的方法，从冻结的纯视觉自监督骨干网络中学习空间定位的离散概念表示：每个图像块被分配给可学习原型字典中的唯一概念，每张图仅稀疏激活少量概念，并用连续残差量化出的离散属性刻画概念变化，空间解码器仅凭概念与属性重建骨干表示；在七个数据集上，其在 ImageNet 线性探测中达到 83.2% top-1，接近冻结的 DINOv2 教师，概念一致性高于语言对齐模型，细粒度识别保持竞争力，并支持跨类别部件检索。
已读完全部报道