跳到主要内容
返回时间线
arXiv来源发表:

14B大模型拆成1.7B、4B、8B三块:总参数13.7B,十项指标全超原模型

导语

把Qwen3-14B拆成1.7B、4B、8B三个异构模型并训练它们互相交接任务状态,在13.7B总参数下于多跳问答、数学推理、代码生成和受限生成五套基准的十项指标上全部超过原14B模型。

Source-provided article image: Collaborative Learning and Reasoning over Model Slices
Figure 1 · arXiv

正文

大模型推理不再由单个模型从头做到尾,而是拆成几个参数不同的小模型轮流接手,每一步的中间结论都由另一套参数重新检查。 此前单模型既生成又评估自己的解,容易偏向自己的输出,中间步骤的错误可能一直没被发现并影响后续推理。 在MuSiQue、GSM-Hard、MATH、MultiPL-E和Conifer五套基准的十项指标上,13.7B的异构组合全部高于原Qwen3-14B,平均绝对提升2.38%。

训练分两步:先让模型学会什么时候继续、什么时候把任务状态交给别人、什么时候结束,再按每一步对整条协作轨迹的贡献调整各模型。 只给最终结果的对错信号,无法指导协作过程中的中间推理和交接决策。 去掉协作训练、去掉协议蒸馏、去掉步骤级评分三种消融在十项指标上平均分别下降9.37、8.85和5.41分,且每一项都低于完整方法。

协作训练后各模型分工随任务变化,重复推理明显减少,推理调用次数也低于多智能体框架。 未训练的同构多智能体系统在十项指标上全部低于异构协作系统,平均差6.02%。 MuSiQue上三个模型的推理重叠率从48.3%、24.1%、55.2%降到0.2%、0.3%、0.5%,模型调用次数比MAD、AgentVerse、AFlow、GPTSwarm减少39.1%到84.8%。

接下来

这套结果覆盖三种模型规模和五套基准,适用于多跳问答、数学推理、代码生成与受限生成四类任务,读者对象是研究多模型推理与训练流程的研究人员和工程师。原文提出后续将研究更大模型池、更长交互轮次和未见任务分布上的泛化,以及通过多个检查者或不确定性感知聚合实现更稳健的监督。

原文说明研究只覆盖三种模型规模和五套基准,向更大模型池、更长交互轮次和未见任务分布的泛化尚未探索。金字塔监督依赖检查者与评估者的质量,其偏差可能影响步骤级反馈;参数规模相当也不等于计算成本相同,协作推理会带来延迟和内存开销,超出参数加权输出词元的度量范围。

来源