跳到主要内容
返回时间线
arXiv来源发表:

智能体合成数据不再只堆量:反馈改写合成空间,任务成功率从64.5%升到77.8%

核心概要

智能体训练数据的合成方式有了新变化:EvoSyn把学习反馈变成可修改的合成空间,让生成方向随任务智能体的弱项调整。此前的方法虽然也用环境反馈、数据校验或失败样本,但观察到的弱点并不能直接说明下一轮该生成什么,也未必能被现有合成维度表示。在τ-Bench与CAR-Bench上,以Opus 4.5为合成模型时平均任务成功率从最强合成基线的64.5%升到77.8%,首轮即达70.9%,多轮演化继续提升。

Source-provided article image: Know What You Don't Know: Agentic Data Synthesis by Evolving Generation Space for Closed-Loop Learning
Figure 1 · arXiv

深度剖析

合成过程本身成为可修改的对象,而不只是按固定维度批量产出任务。 此前的合成方法把反馈用于构造可执行任务、校验或修复样本、或围绕失败生成更难的问题,但合成维度本身保持固定。 在τ-Bench与CAR-Bench上,以Opus 4.5为合成模型,EvoSyn-Final-SFT平均任务成功率为77.8%,高于Monolithic、Fixed-State、R-Zero风格与AutoPlay风格等合成变体,首轮EvoSyn-R1为70.9%。

系统把智能体的表现、覆盖与失败诊断映射回合成空间,再决定是重新分配生成预算还是新增可控因子。 反馈不再只用来筛选或修复单个样本,而是决定合成过程下一步该改什么。 在CAR-Bench上,去掉学习反馈使成功率从0.713降到0.660、轨迹多样性从0.769降到0.538;去掉Reflector使因子覆盖从0.893降到0.803;去掉Designer使成功率降到0.540。

新增因子是真实可操作的生成控制,而不是事后贴上的标签。 无反馈对照只能提出六个看似合理的维度,却一个都没命中实际被采纳的写读数量因子。 反馈条件下的Reflector提出的两个因子都被采纳,无反馈对照的采纳因子恢复率为0/6;在R2合成中,请求的num_write取值与实际轨迹重算值在多个领域和合成后端上精确匹配率为99.6%到100.0%。

启示与展望

报告覆盖的是交互式工具使用环境中的智能体数据合成,评测在τ-Bench的Airline、Retail、Telecom三个域与CAR-Bench Base设置上进行,指标为环境评估器给出的任务成功率。合成后端包括Claude Opus 4.5、Qwen3-30B与Qwen3-235B,默认任务智能体为Qwen3-8B,并额外考察14B与30B规模。合成最多运行三轮,每轮Reflector最多引入一个新因子。

多轮收益在文中以观测到的成功率变化描述,作者明确说明跨轮次的边际学习增益分析是描述性的,不是对单样本效用的因果估计。因子可控性验证集中在num_write这一可直接测量的因子上,其他新增因子的可控性未逐一给出同等证据。