SMAT把合并操作拆成Scale、Mask、Perturb三类模拟，在四个骨干上把五种合并方法的平均分提高1.07–2.16分，训练开销不到2%
该工作提出SMAT（Simple MAT），从单个专家视角把常见模型合并方法归纳为Scale（重加权自身更新）、Mask（删除选定坐标）与Perturb（加入其他专家的更新）三种操作，在训练中采样缩放系数、掩码与加性噪声来模拟合并后的参数并联合优化专家损失与模拟合并损失，配合周期调度、算子融合与参数存储切换实现每步一次前向一次反向；在Llama-3.2-1B-Instruct、Llama-3.1-8B-Instruct、CLIP ViT-B/32与ViT-L/14四个骨干上，SMAT相对各骨干最强基线把五种合并方法的平均分提高1.07–2.16分，训练时间开销相对标准微调低于2%。