arXiv来源发表:
结构化知识检索不再依赖预设规则:路由智能体与检索器交替训练,规则由检索效果反过来挑选
核心概要
结构化知识检索不再需要预先写好的查询—规则配对:路由智能体为每条查询挑一条推理规则,对应检索器按该规则约束排序证据,两者交替训练、互相提供监督。
深度剖析
结构化知识检索现在可以自己决定每条查询该用哪条推理规则,再按这条规则去知识库里找证据,不需要人工预先写好的查询—规则配对。 此前的做法要么不加约束地检索,要么依赖预先定义的查询—规则监督,例如科学发现里的作者—论文规则、精准医学里的解剖—药物规则,而这类监督在实际中很少能拿到。 在覆盖科学发现、生物医学推理和电商知识管理的 STaRK-QA 数据集上做了实验,消融结果显示路由器和检索器共同自适应带来了收益。
做法是让一个路由智能体先选规则,再由与该规则对应的检索器遍历知识库、对满足规则约束的证据排序。 因为路由和检索互相依赖,CoRE 在路由策略的强化学习与规则约束检索器的对比学习之间交替进行。 选出的规则为检索器训练提供监督,检索表现反过来奖励路由策略,这个闭环让两部分在没有显式查询—规则监督的情况下共同自适应。
启示与展望
报道范围限于摘要所述内容:CoRE 面向结构化知识检索,在 STaRK-QA 数据集上覆盖科学发现、生物医学推理和电商知识管理三类任务。适合做知识检索、检索增强生成或规则约束推理的研究人员和工程师阅读。摘要提到基于生成的规则路由可以跨数据集迁移,并可从多领域预训练过渡到目标领域微调,但未给出具体迁移设置。
摘要只说明实验在 STaRK-QA 数据集上展示了有效性,没有给出具体指标或提升幅度。消融只说明共同自适应有收益,未说明各组件单独贡献的大小。规则使用分析被描述为可为自动规则细化和发现提供信息,属于方向性表述,不是已验证的结论。
