# 源外响应重构

独立训练的模型各有互补能力，但知识迁移通常靠缩小预测或表示差异，这会削弱互补性。Corroborative Learning 让每个模型只学习任务分数的增量，再用同伴的表示在留出数据组上重建这些增量，重建得越差的方向被约束得越强。在六项语言任务、24个模型、36对组合上，它相对同等容量的独立适配在全部六项任务上都有提升，平均增益0.52个百分点，且推理时两个模型仍各自独立部署。

独立训练的模型各有互补能力，但知识迁移通常靠缩小预测或表示差异，这会削弱互补性。Corroborative Learning 让每个模型只学习任务分数的增量，再用同伴的表示在留出数据组上重建这些增量，重建得越差的方向被约束得越强。在六项语言任务、24个模型、36对组合上，它相对同等容量的独立适配在全部六项任务上都有提升，平均增益0.52个百分点，且推理时两个模型仍各自独立部署。