跨 DeepSeekMoE、OLMoE 与 Qwen3-MoE 的干预实验显示:合并后专家路由漂移多由输入表征位移引起,却无法预测源路由恢复带来的任务收益
核心概要
该工作提出一套路由分析工具包,在 DeepSeekMoE、OLMoE 与 Qwen3-MoE 上通过交叉源模型与合并模型的 router 输入和参数、以及 token 级与任务级配对评估,发现大多数专家重分配由输入位移而非参数变化引起,源相对路由差异对源路由恢复的下一 token 似然增益预测接近随机,不同专家选择可产生方向相似的混合输出,因此把路由失败重新定义为在固定非路由参数下、特定路由干预可恢复的任务损失,并据此提出 Selective Router Repair 作为案例研究,未发现源专家 token 似然优势能可靠识别有益的局部修正。
深度剖析
在 DeepSeekMoE、OLMoE 与 Qwen3-MoE 三种架构、Average 与 Task Arithmetic 两种合并方式共六个设置下,交叉源与合并的 router 输入和参数后,大多数 token–layer 专家集合变化由表征替换引起,而仅由 router 参数替换引起的比例很低。 此前工作(如 HARC)把源到合并的路由不匹配直接当作路由失效并据此对齐 router;该工作把路由变化拆成输入侧与参数侧两个来源,指出结构变化本身不等于危害。 每个设置 256 条领域均衡提示、全部 continuation token 与全部稀疏层;归因比例在 10,000 次提示重采样下重算,并区分冗余与交互情形。
源相对路由差异对源路由恢复带来的下一 token 负对数似然下降预测能力接近随机,全分布 JS 散度的 AUROC 接近 0.5;在任务层面,替换整段问答序列的路由后,正确选项 margin 变化的 95% 置信区间跨越零。 把“路由不一致”从失败标签降级为待检验的结构描述,并给出以任务后果为准的判据。 结构预测在最终五个稀疏层的变化路由事件上评估,主检验族经 Holm 校正后无一存活;任务评估在固定条目上配对比较,12 个 margin 与准确率区间均包含零。
在固定合并隐状态与专家参数下,源路由与原生合并路由的混合输出余弦相似度高于专家对最大余弦,且在全部 727 个采样事件中混合余弦都超过专家对最大值;与 32 个在专家数、重叠度和权重上匹配的随机路由相比,观测路由的余弦更高,各设置配对提示自助区间为正。 给出混合层面功能冗余的证据,说明不同专家选择可以保持对齐的混合输出,从而解释为何路由漂移未必对应行为退化。 六个设置的事件级比较,配对随机对照保留基数、共享子集、BF16 源权重多重集与路由质量;作者同时说明余弦只衡量方向,不衡量幅度或任务恢复。
把路由失败操作化为在指定路由干预、固定非路由参数下可恢复的任务损失后,该判据能在人为扰动 OLMoE router logits 时检测到可恢复损失(四层扰动恢复约 12–14 个百分点、全层扰动恢复约 27–33 个百分点,八个比较通过 Holm 校正),而源路由恢复与冻结 LC 路由重放在所评估的合并模型上未建立可靠任务收益;作为案例研究的 Selective Router Repair 也未显示源似然优势能识别有益修正或提升平均任务表现。 把候选构造与已证实的恢复分开:拟合源派生目标或优于另一种修复方法,都不能替代相对未修复父模型的改进证据。 正对照在 256 条固定 ARC 条目上配对评估;SRR 在 35,326 个共享条目、五次评测下报告,八个 OLMoE/Qwen3-MoE 设置中五个平均分变化为正,但区间条件于固定检查点,且 440 对匹配局部诊断未显示源方向对比具有更高效用。
启示与展望
该结果面向研究合并 MoE 语言模型的研究者与工程团队,适用于 DeepSeekMoE、OLMoE、Qwen3-MoE 在 Average、Task Arithmetic、TIES、WUDI-Merge 等合并方式下的诊断场景。它提供的是一套可复用的流程:先交叉源与合并的 router 输入和参数做局部归因,再在固定非路由参数下用配对任务评估检验指定路由干预是否可恢复损失,最后才判断是否需要修复。工具包与 SRR 代码已公开,可用于把候选修复方案的构造与其任务级效果分开评估。
任务评估的区间条件于固定检查点,不覆盖修复种子、校准样本或训练运行的变异;源路由恢复的零结果既不证明合并路由无害,也不证明其最优,作者也指出局部候选比较并非穷举路由搜索。SRR 的拟合目标匹配的是选定 router logit 残差而非任务损失,执行时后续层的输入响应会改变实际修正量,因此固定输入上的修正未必在联合执行中复现。此外,Qwen3-MoE 的扩展诊断在早期诊断之后加入,其相关性区间为逐点区间;部分表格与图在加载文本中以占位形式呈现,具体数值需回到原文与附录核对。
