模型合并不再强行挤进同一子空间：GRAM按几何分组，GLUE均分83.8%反超全局合并
核心概要
多任务部署常要把多个独立微调的模型合成一个，但现有合并方法把所有任务压进同一个共享低秩空间，子空间方向不一致的任务会丢失关键方向。GRAM只用微调后的权重，先按任务输出子空间之间的主角几何把任务分成若干组，再在每组内做标准的SVD合并。在Flan-T5-Base的GLUE上平均准确率83.8%，高于全局合并的81.9%和最强基线TSV-Merge的81.7%，代价是多部署一个模型。
深度剖析
模型合并从“所有任务共用一套低秩基”改为“按子空间几何分组、组内各自合并”，几何上互不兼容的任务不再被迫共享同一组方向。 此前的合并方法对所有任务做统一的全局合并，隐含假设各任务子空间足够对齐；当任务来自差异较大的领域时，这一假设不成立，偏离主流的任务性能下降最明显。 在Flan-T5-Base的GLUE上，GRAM平均准确率83.8%，全局合并为81.9%，最强基线TSV-Merge为81.7%；在8任务CLIP视觉基准上，ViT-B/32平均88.7%、ViT-L/14平均94.0%，均高于Iso-CTS的85.8%和93.9%。
分组依据是任务更新矩阵左奇异向量所张成的输出子空间之间的夹角，夹角越大，共享一组基时被丢掉的任务方向越多。 具体做法是计算每对任务在各层上的平方弦距离并取平均，再用Grassmann流形上的k-means++把任务聚成若干组，组数由部署预算给定。 在Flan-T5-Base、组数为2时，组内与组间子空间相似度之比为4.06，随机分组为0.87；同一几何下换用凝聚层次聚类得到完全相同的划分，10个随机种子下划分也一致。
每组内部按奇异值大小自适应分配秩预算，把秩留给最能降低重建误差的方向，而不是平均分给组内每个任务。 均匀分配会把容量浪费在谱较紧凑的任务上，同时截断长尾任务；自适应分配把组内所有候选奇异值放在一起排序，取全局前若干个。 消融显示去掉自适应分配后，GLUE平均从83.8%下降，ViT-B/32从88.8%下降；在视觉全量微调场景中该模块影响较小，作者将其归因于全量微调增量谱更均匀。
启示与展望
演示范围限于任务身份在推理时已知的任务感知部署：GLUE上的Flan-T5-Base/Large、8任务CLIP视觉基准的ViT-B/32、ViT-L/14与ViT-B/16，以及Qwen2-7B-Instruct上四个公开医疗LoRA的案例研究；合并阶段只使用微调权重，不使用源数据或校准集。
结果为单种子报告，Flan-T5-Large上的领先幅度较小，应谨慎解读；每个模态只覆盖一个模型家族，医疗评测是公开基准上的案例研究，而非来自多个站点的真实联邦实验；理论分析针对理想化的最优基与Grassmann k-means目标，而非GRAM实际的自适应分配列拼接合并，应读作几何动机而非端到端最优性保证。