FOVEATED 通过随机偏移前文 RoPE 位置构造聚焦视图，在五个知识编辑器、两个骨干模型和三个基准上一致提升原子事实召回
相关研究与后续进展
核心概要
该工作指出非结构化知识编辑中标准段落级目标会让后出现的事实因上下文更丰富而初始损失更低、显得更易学习，从而造成上下文依赖；为此提出即插即用的 FOVEATED 框架，在编辑时随机偏移某句前文键的 RoPE 位置以构造聚焦视图，编辑后移除扰动、推理时保持原生位置编码不变，并在直接优化与先定位后编辑两类编辑器上实例化，理论分析其如何抵消上下文导致的难度低估，实验在五个知识编辑器、两个大模型骨干和三个基准上取得一致提升。
深度剖析
识别出非结构化知识编辑中的失败模式“上下文依赖”：被编辑的大模型往往能复述编辑段落，却无法在没有原始段落上下文时可靠召回其中的单个事实。 此前工作多以结构化三元组或段落级编辑为目标，该工作把问题定位到段落内单个事实的召回，并给出可解释的成因。 该失败模式由作者在摘要中作为既有 UKE 编辑器的现象陈述，并进一步归因于标准段落级编辑目标下的“上下文导致的难度低估”。
提出成因解释：在标准段落级编辑目标下，越靠后的事实获得越丰富的真实上下文，初始损失更低，因而看起来更容易学习。 把“后段事实更易被忽略”从经验现象提升为对训练目标中损失分布的分析性描述。 摘要给出该机制的文字论证，并称论文对其进行了理论分析，说明 FOVEATED 如何抵消这种低估。
提出 FOVEATED：通过随机偏移某句前文键所分配的 RoPE 位置，为该句构造聚焦视图；扰动仅在编辑时施加，之后移除，推理时模型原生位置编码不变。 这是一种即插即用框架，可同时实例化到直接优化型与先定位后编辑型编辑器，而不改变推理阶段的编码方式。 摘要说明其在两类编辑器上实例化，并在五个知识编辑器、两个大模型骨干和三个基准上做实验，报告一致提升。
启示与展望
该工作面向以自由文本段落承载多条事实的非结构化知识编辑场景，适用于直接优化型与先定位后编辑型编辑器，以及摘要所述的两个大模型骨干与三个基准。其设计意图是在编辑阶段构造聚焦视图、在推理阶段恢复原生位置编码，因此对推理期行为不引入额外改动。对需要结构化三元组编辑或需要编辑后长期保持通用能力的场景，摘要未给出可直接套用的结论。
所给文本为摘要级内容，未包含具体指标数值、样本规模、消融设置与统计显著性，因此无法判断提升幅度与稳定性。理论分析的具体假设与适用范围、随机偏移的分布与强度选择、以及编辑后对无关知识与通用能力的影响，均需查阅正文确认。此外，摘要所述“一致提升”覆盖五个编辑器、两个骨干与三个基准，但各组合的差异与失败情形仍是读者需要留意的开放问题。