LoRA秩不必再统一：按域各选秩，平均与效用选择不掉分，冲突消解法最多丢4个百分点
模型合并通常要求所有专家用同一个LoRA秩，但各领域的最优秩并不相同。研究者在数学、指令跟随、多语言三个域、四个秩、三种模型规模上训练36个专家，用六种合并方法比较统一秩与各域自选秩：简单平均和按损失效用选分量的方法不受影响，多域准确率最多提高1.8个百分点；TIES、KnOTS这类按奇异值大小裁剪并消解冲突的方法表现不一致，最多损失4个百分点。原因是按幅度选分量会把奇异值最小的指令适配器几乎整体丢弃，IFEval随之下降16到25个百分点。