RNA序列设计改用离散扩散:不靠折叠预言机,也能生成结构匹配且彼此差异大的候选
RNA逆折叠长期依赖迭代优化和外部折叠算法打分,生成过程受初始化影响且容易收敛到局部解。该工作把多项式扩散直接定义在核苷酸序列上,用目标二级结构引导去噪,并比较二维接触图投影与一维配对感知两种架构。在同分布测试集上,二维与一维模型的中位归一化RNAforester相似度分别为0.82和0.79,生成序列的多样性接近随机序列水平。
RNA逆折叠长期依赖迭代优化和外部折叠算法打分,生成过程受初始化影响且容易收敛到局部解。该工作把多项式扩散直接定义在核苷酸序列上,用目标二级结构引导去噪,并比较二维接触图投影与一维配对感知两种架构。在同分布测试集上,二维与一维模型的中位归一化RNAforester相似度分别为0.82和0.79,生成序列的多样性接近随机序列水平。
该工作提出 AIR-MoE,一种基于向量量化的倒排索引式两阶段 MoE 路由架构:第一阶段用 VQ 码字对 token 做粗筛选构建候选专家集,第二阶段仅在候选集内计算精确路由分数,从而在避免全专家打分的同时近似真实 top-K 路由,且不对专家参数施加结构约束;作者还给出 AIR-MoE 质量召回的下界,并在多达百万以上微小专家的场景中相对现有 MoE 路由器改善困惑度-FLOPs 权衡、相对最佳基线取得一致的困惑度提升。
已读完全部报道