跳到主要内容
返回时间线
arXiv来源发表:

单智能体做SFT数据研究只会调比例:拆出执行、四路分析与合成后,IFEval提前到63.33

核心概要

监督微调的数据研究正被交给语言模型智能体,但单个智能体拿到完整训练栈后只会反复调整各类数据的配比。AutoSFT把执行、分析、合成拆成不同角色的子智能体,让同一轮数据从训练数据、失败样例、训练信号和历史四个角度被审读,并在数据池覆盖不足时按可验证约束生成新样本。每轮都从同一基座重训,因此各组件效果可单独归因:分析子智能体在第6轮把IFEval推到63.33,已高于单智能体50轮内的最好成绩62.35。

AI-generated editorial illustration: AutoSFT: An Agentic System for Automated Data Research in Supervised Fine-Tuning

深度剖析

AutoSFT把SFT数据研究从单一动作扩展为覆盖六类数据操作的搜索,并让执行、分析、合成由不同子智能体分担。 此前的自动化系统只给智能体一种控制权,要么从固定池中选行,要么调用生成器;单智能体复现实验的33轮全部落在调整类别配比这一类动作上。 在Qwen3-1.7B-Base、IFEval与IFBench上,单智能体提交33轮、完成32轮评估,第9轮为两项基准的最好成绩,其后23轮没有更好结果。

执行子智能体把训练、检查点转换和评测移出决策智能体的会话,只回传文件路径和简短状态。 单智能体会话在258,400 token窗口填到94.7%后被压缩十次,研究历史被丢弃并重建十次。 在相同基座与上下文窗口、以11.5小时快照评测的对照中,压缩次数从十次降到五次,shell命令占比从58%降到29%。

四个分析子智能体分别从训练数据、失败样例、训练信号和历史出发各提一条数据改动,拓宽了实际采取的动作类型。 单智能体全程停留在配比调整,推理中从未提到修复行、替换回答或写入新样例。 在3M token上限、avg@10评测下,分析配置第6轮达到63.33,第30轮升到67.10;单智能体前30轮最好60.60,50轮最好62.35。

合成子智能体针对数据池供给不足的能力目标生成新样本,样本须通过该目标的程序化校验才进入池子。 前两个组件都不引入池中原本没有的数据,因此无法覆盖池子几乎不含样本的能力。 在100M token上限下,合成运行最好IFEval为81.58、IFBench为51.95,对照分别为78.15和49.02;repeat_prompt在前8轮约40%,第9轮批次进入后升至75.6%。

启示与展望

结论建立在Qwen3-1.7B-Base这一个基座、一个规模上,指令跟随与代码两个域各跑一条搜索。指令跟随用IFEval与IFBench,代码用MBPP+,评测分别取avg@10与avg@3,每轮都从基座重训并在同一token预算内比较。代码域的迁移实验轮次较短,只说明该循环可以迁移。

每个配置只跑一条搜索,重复评测只能约束单个检查点的噪声,不能约束独立搜索之间的波动。合成提升集中在池子供给不足且模型可学的少数能力上,对模型尚不能遵循的约束无效,odd_even_syllables在三轮生成后仍为零分。作者指出这些效应在其他规模上未必成立。