检索增强生成拆成三个智能体:TRIO让查询扩展、检索判断与作答各自优化
核心概要
检索增强生成(RAG,先从外部知识库取回材料再让语言模型作答)常因检索不到位和编造内容而失准。TRIO把这条流程拆成查询扩展、检索充分性判断和作答三个智能体,让每个智能体按各自的奖励信号迭代改进:扩展智能体按答案质量提升获得奖励,判断智能体以一致性投票标注的充分与否为监督,作答智能体用动态匹配奖励配合课程学习训练。多个基准数据集上的实验显示,TRIO相对当前先进方法更有效,代码已公开。
深度剖析
检索增强生成被拆成三个各自优化的智能体,而不是作为一个整体流程统一调参。 此前的RAG方法受检索不充分和潜在编造内容拖累,效果仍不理想。 多个基准数据集上的实验把TRIO与当前先进方法直接比较,报告其更有效。
三个智能体通过迭代改进范式协同,各自对齐自己的优化目标。 查询扩展智能体以答案质量提升量化为奖励,用来提高扩展效率。 扩展后的查询由一致性投票标注为充分或不充分,这些生成结果作为真值来优化判断智能体。
作答环节的优化目标是让证据被更好地利用、答案更准确。 作答智能体采用基于动态匹配的奖励,并配合课程学习训练最终输出。 该训练设置与前述两个智能体共同构成TRIO,并在多个基准数据集上接受评估。
启示与展望
已展示的范围是多个基准数据集上的对比实验,以及公开的代码仓库。摘要未提出后续实验计划。
摘要只给出“在多个基准数据集上相比当前先进方法更有效”的概括性结论,未列出具体数据集、指标数值或提升幅度;一致性投票标注的可靠性也未在摘要中量化。
