跳到主要内容
返回时间线
arXiv来源发表:

提示词优化让深度研究智能体引用更准:换到没见过的题目上,奖励仍涨0.079

导语

反思式提示词优化把多智能体深度研究系统的引用奖励在500道无主题重叠的留出题上从0.702提到0.781,涨0.079,且三个随机种子都复现,说明这部分提升来自可迁移的引用纪律而非背下训练答案。

Source-provided article image: Reflective Prompt Optimization of a Deep-Research Agent: A Topic-Disjoint, Multi-Seed Protocol for Measuring Transferable Gains and Prompt-Level Overfitting
Figure 1 · arXiv

正文

提示词优化能在不更新模型权重的前提下,让深度研究智能体的引用质量在没见过的题目上变好。 此前这类研究报告的多是同一分布内的提升,而优化器读过训练样例,可以把答案直接写进提示词,因此分布内提升分不清是行为改变还是记忆。 在500道、254个主题、与训练和验证零主题重叠的留出集上,优化后的提示词比初始提示词高0.079,bootstrap 95%置信区间为[0.051, 0.107],Wilcoxon符号秩检验显著,287道提升、147道回退、66道持平。

提升来自可迁移的引用纪律,而不是把训练答案抄进提示词。 获胜提示词按词数计近一半是背下来的答案表,直觉上会认为正是它抬高了验证分数。 在24道精确训练题上,优化提示词只比初始提示词高0.090,与0.079的留出增益在统计上无法区分,远低于0.202的验证增益;在96道同主题新题上,被记忆的家族只涨0.071,未被记忆的家族涨0.154。

让增益迁移的关键是奖励信号按维度分解,而不是打分更细或重复打分。 把逐维度的文字反馈压成一个标量奖励后,留出迁移由正转负;把奖励分辨率变粗或把打分重复三次,都没有提高迁移。 在120道无主题重叠的留出题上,用同一个规范验证器重新打分,细粒度单次分解配置的迁移为0.079,粗粒度0.075,三次重复0.059,标量配置为负;重复打分只把种子间波动压到0.018。

优化器找到的规则可以手写复现,搜索本身只贡献一小部分。 如果提升主要来自搜索机制,手写规则应当只能复现很小一部分增益。 在100道留出题上,去掉全部记忆内容、只保留可描述规则的手写配方,复现了0.083总增益中的0.047,约57%;完整优化提示词再增加的0.036在100道题上不单独显著。

接下来

这套协议针对一个多智能体深度研究系统、一项引用质量任务和一个冻结的新闻语料,留出集为500道题、254个主题,训练与验证各24道题、12个主题。适合正在做提示词优化评测或部署的研究者与工程师,用来判断报告出来的增益有多少能在没见过的主题上站住。作者提出的下一步是把这类协议搬到实体或文档来源不相交的领域,并给优化器的更新步骤加上泛化约束与验证门控。

奖励由语言模型裁判打分,人工核对只有48对、单一标注者,作者称需要更大规模的多标注者研究。策略、反思器和引用裁判来自同一模型家族,作者用家族外裁判复核后增益仍在,但只用一个替代模型、样本很小。验证器消融每个配置只有两个种子,作者按方向性而非精确估计解读。留出增益只在三个种子上复现,作者不把验证与留出之间的差距当作标定过的记忆量,只当作过拟合的诊断信号。

来源