大模型补知识不再只找短板:先判断知识处于哪种状态,再选干预,两套评测平均高出18.41分
核心概要
大模型补知识正从预设流程转向由评测引导的定向更新,但定位到薄弱点并不等于知道该用哪种干预。递归知识改进(RKI)把知识组织成图结构单元,在每一轮定位薄弱点、依据诊断证据与干预历史估计模型当前的知识状态,再选择对应干预并在更新后重新评测。在HotpotEval与SafeInternalEval上,RKI相对已有知识注入方法平均高出18.41分;分析还显示知识状态能为干预选择提供薄弱点定位之外的额外指引,且模型更新后状态可能改变而观察到的薄弱点仍然存在。
深度剖析
大模型的知识改进开始把评测当作每一轮更新的决策依据,而不只是事先写好的知识注入流程。 此前的做法是用评测定位模型特有的知识薄弱点,再据此做定向后训练,定位结果直接决定改哪里。 同一处被定位到的薄弱点可能对应不同的知识状态:相关知识不可得、可得但难以稳定调用、或可调用却在下游使用中无效,这种歧义被称为知识状态混叠。
RKI把知识改进写成按轮推进、感知状态的干预过程,每一轮都重新判断该做什么。 它把知识组织成图结构单元,让诊断评测与定向干预在多轮之间共享同一套对象,而不是每轮各自为政。 每一轮先定位薄弱点,再从诊断证据与干预历史估计模型的操作性知识状态,选择相应干预,并在更新后重新评测再决定下一步;在HotpotEval与SafeInternalEval上,RKI相对已有知识注入方法平均高出18.41分。
模型更新本身会改变知识状态,因此上一轮合适的干预未必能解决下一轮的瓶颈。 观察到的薄弱点没有消失,底层的知识状态却可能已经改变,单靠诊断分辨率提高不足以选出干预。 分析显示知识状态能为干预选择提供薄弱点定位之外的额外指引,并且能在观察到的薄弱点持续存在时随模型更新而变化。
启示与展望
已展示的范围是HotpotEval与SafeInternalEval两套评测上的知识改进对比,以及关于知识状态与薄弱点定位关系的分析;材料未提出后续实验或部署步骤。
材料把知识状态混叠作为需要解决的问题提出,并指出模型更新后知识状态可能改变而观察到的薄弱点仍然存在;这些判断的适用范围在摘要层面未进一步限定。
