DNA-LLM2Vec把已预训练的因果DNA解码器分阶段改造成冻结的双向编码器：先打开双向上下文，再用掩码下一词预测修补由此产生的不匹配，最后加入编码链不变性与位置不变性的对比视图。在DNAGPT与HyenaDNA两个骨干、七个生物任务族上，收益并非一致，而是取决于任务结构与骨干；裁剪对比学习对增强子—启动子互作和Virus-COVID这类长上下文任务帮助最大，冻结Avg-EPI MCC分别达到27.5%和26.7%。
DNA语言模型通常只按一条链切词、训练和测试，同一段序列反向互补后预测会变。MirrorDNA用一个对称路由器让两条链在镜像位置切分，并证明整条模型对反向互补等变。在12个链对称的Nucleotide Transformer任务上，它两条链的MCC都是0.491，而NT-v2、DNABERT-2和HyenaDNA只有0.152、0.187和0.080。
EvSpark 为 Evo2 这类卷积-循环-注意力混合 DNA 基础模型设计了一套推测解码系统，通过一次块前向并行验证草稿并用“状态切片”选择保留的中间状态来同时恢复 FIR、IIR 与 KV 三类推理状态而无需重放，在 Evo2 7B 的 48 条提示基准上（三个训练种子）对 43 条真实序列提示取得 2.96× 加速、含五条合成对照时为 3.27×，在 262k 上下文仍保持 1.84×–2.43×，并在 20B/40B 目标上分别取得 2.18×–2.46×（真实序列）与 2.51×–2.78×（全量套件）。
已读完全部报道