长寿命角色与本地推理：面向游戏NPC的增量式记忆维护
核心概要
该研究在量化Qwen混合循环–注意力模型上实现了一种免训练的增量记忆维护运行时：删除被取代记录的注意力KV、在真实序列尾部计算替换记录、并保留延续的循环状态与未改动KV，实验显示独立分块组合会削弱查询条件下的记忆选择，真实尾部更新在八轮脚本化维护中保留了关键的当前状态与历史绑定，而保持原槽位的替代方案会重复一次重复扣减错误，且注意力分布接近程度并不能解释这些语义差异。
Figure 1: Rule-governed play makes memory maintenance consequential. Open-ended dialogue expresses intentions; compilation connects them to game-supported activities, while game rules govern authorization and consequences. Experiences revise character records. On a shared local device, repeatedly rebuilding long contexts competes with foreground dialogue. The target is to encode revisions while reusing surviving state. This conceptual illustration motivates the workload; it is not a population-throughput measurement or a claim that the complete envisioned game has been implemented.
arXiv深度剖析
提出并实现了一种面向全本地游戏角色的持久记忆维护运行时，将显式KV记录的生命周期与持续演进的循环状态分离，且不修改模型权重。 既有前缀缓存与模块化复用关注共享前缀的复用或分块重算，而这里把“逻辑记忆可编辑、计算历史继续前进”作为一等操作，删除被取代记录的KV并在真实尾部追加替换记录。 在量化Qwen3.6-27B混合模型（48个循环层与16个全注意力层）上通过修改后的本地llama.cpp运行时实现，并给出多轮维护轨迹与注意力诊断。
独立分块组合会削弱查询条件下的记忆选择，但不出现统一的块首注意力塌缩。 在显式焦点ID探针上，五个被请求记忆组在完整重填下获得57.4%记忆注意力，独立组合下仅21.5%，有效被关注组数从18.3升至33.2（共34组）；同时首八个token的注意力份额并未呈现EPIC所分析的那种普遍块首模式。 配对探针在相同焦点ID指令后测量，五个被请求组约占记忆token的12.16%；注意力为描述性诊断而非生成答案准确率。
真实尾部更新在八轮有损维护中保留了多项当前状态与历史绑定，而保持原槽位的替代方案会重复一次重复扣减错误。 在冻结的草药编译任务中，密集重填与新鲜间隔预填均编译出两株，保持原槽位编译出一株，真实尾部更新三次重建均编译出两株，尾部计算后旋转键回原位的三次重建均编译出一株。 三次重建为可重复性检验而非独立场景；最终活跃缓存为11,894个token，原槽位与真实尾部的下一位置元数据分别为261,955与479,547，空洞不占用占位KV。
注意力分布接近程度不能作为语义正确性的证明，且维护后的绑定错误可通过任务组织方式在保留状态下恢复。 从密集到新鲜间隔预填的token分布总变差距离为0.095、0.136、0.144，而从新鲜间隔预填到维护间隔状态的距离更小（0.061、0.079、0.076），但后者伴随救援对象与草药数量的错误；在长时程案例中，理解优先的任务改写使角色正确说出“那日是他细心捡回并替我拍净”，且未引入红绳。 三路固定文本诊断与冻结任务探针，每臂一次响应；作者明确说明这是行为干预而非注意力图变化的测量，且只确立一个可恢复案例而非普遍修复率。
启示与展望
该结果面向在玩家自有硬件上运行、由规则治理对话与资源结算的本地游戏角色，适用于需要反复修订记忆并复用未改动上下文的场景；它使“按改动记录计费”的维护成为可操作选项，并为后续多角色、更长历史与对抗性修订的评估提供起点。
读者仍会关注：多角色群体下的准备与更新预算如何与前台对话竞争；在重复反转、矛盾报告与更长历史下维护状态是否稳定；量化与数值路径对结论的影响；以及注意力诊断缺少真实尾部与键旋转行为的对应捕获图，这些开放问题会影响对语义差异成因的判断。