单智能体做SFT数据研究只会调比例:拆出执行、四路分析与合成后,IFEval提前到63.33
监督微调的数据研究正被交给语言模型智能体,但单个智能体拿到完整训练栈后只会反复调整各类数据的配比。AutoSFT把执行、分析、合成拆成不同角色的子智能体,让同一轮数据从训练数据、失败样例、训练信号和历史四个角度被审读,并在数据池覆盖不足时按可验证约束生成新样本。每轮都从同一基座重训,因此各组件效果可单独归因:分析子智能体在第6轮把IFEval推到63.33,已高于单智能体50轮内的最好成绩62.35。
监督微调的数据研究正被交给语言模型智能体,但单个智能体拿到完整训练栈后只会反复调整各类数据的配比。AutoSFT把执行、分析、合成拆成不同角色的子智能体,让同一轮数据从训练数据、失败样例、训练信号和历史四个角度被审读,并在数据池覆盖不足时按可验证约束生成新样本。每轮都从同一基座重训,因此各组件效果可单独归因:分析子智能体在第6轮把IFEval推到63.33,已高于单智能体50轮内的最好成绩62.35。
已读完全部报道