专家混合语言模型中专家的高阶剪枝
该工作提出 HOPE,一种二阶专家剪枝目标:在校准阶段记录每层专家对的交互矩阵 F,并将其作为二次规划求解以选择剪枝集合,理论上证明 REAP 等一阶方法是忽略交互项的特例;在三个前沿 MoE 模型(最高 122B 参数)、两套校准集与多个基准上,HOPE 在多数条件下取得最佳平均排名,50% 剪枝时平均排名 1.58(次优方法 REAP 为 2.42),在智能体编码任务上最高提升 +6.1%。
该工作提出 HOPE,一种二阶专家剪枝目标:在校准阶段记录每层专家对的交互矩阵 F,并将其作为二次规划求解以选择剪枝集合,理论上证明 REAP 等一阶方法是忽略交互项的特例;在三个前沿 MoE 模型(最高 122B 参数)、两套校准集与多个基准上,HOPE 在多数条件下取得最佳平均排名,50% 剪枝时平均排名 1.58(次优方法 REAP 为 2.42),在智能体编码任务上最高提升 +6.1%。
已读完全部报道