跳到主要内容
返回时间线
arXiv来源发表:

MO-IKE 用多目标强化学习把提示构建建模为约束马尔可夫决策过程,在 Llama-3.2 上将编辑成功率从 85.0% 提升到 92.0%,改写一致性从 77% 提升到 79%,并将保留率提高 23.0%

核心概要

该工作提出 MO-IKE,一种多目标强化学习算法,将上下文知识编辑中的提示构建形式化为约束马尔可夫决策过程,训练动态检索器以在可靠性、通用性和特异性等相互竞争的目标之间进行优化,在 Llama-3.2 上把编辑成功率从 85.0% 提升到 92.0%、改写一致性从 77% 提升到 79%,并将保留率较此前基于强化学习的方法提高 23.0%。

Source-provided article image: Towards Reliable, Generalizable, and Specific In-Context Knowledge Editing via Multi-Objective Reinforcement Learning
Figure 1 ·

Figure 1: Contradicting objectives of reliability and specificity in prompt construction in IKE – Increasing the number of RETAIN demonstrations leads to Retention Success but Edit Failure.

arXiv

深度剖析

MO-IKE 将上下文知识编辑的提示构建建模为约束马尔可夫决策过程,并训练一个动态检索器来优化可靠性、通用性和特异性这些相互竞争的目标。 此前基于强化学习的方法主要优化单一目标,且只对提示构建过程的一部分做决策,因而忽略了目标之间的平衡与演示样例的全局组织;MO-IKE 把提示视为结构化实体,在多个目标下进行全局一致的构建。 摘要说明该算法在 Llama-3.2 上评估,并报告了相对此前基于强化学习方法的编辑成功率、改写一致性和保留率变化。

在 Llama-3.2 上,MO-IKE 将编辑成功率(可靠性)从 85.0% 提升到 92.0%,将改写一致性(通用性)从 77% 提升到 79%,同时将保留率(特异性)较此前基于强化学习的方法提高 23.0%。 这些数字给出了相对此前基于强化学习方法的量化改进,覆盖了知识编辑中三个常被分开处理的目标。 证据来自摘要中报告的 Llama-3.2 评估结果;文本未给出数据集构成、样本量或统计不确定性。

启示与展望

该工作面向无需训练、可直接用于黑盒大语言模型的上下文知识编辑场景,目标是在可靠性、通用性和特异性之间取得更平衡、全局一致的提示构建。摘要报告的结果限于 Llama-3.2,因此其适用范围应理解为该模型与所评估的编辑设置。

摘要未说明评估所用的数据集、编辑样本数量、统计不确定性,也未说明多目标权衡在不同模型或知识类型上的表现。这些是读者在判断结果可推广性时仍会关注的问题。

来源