PsPLUG 用“个性化残差”插件缓解显式风格指令对用户偏好的压制，并在 LaMP 上取得更优表现

论文识别并命名了一种失败模式：显式风格控制会与隐式用户偏好冲突，导致既有个性化方法出现“personalization collapse”，即强系统指令主导生成空间、压垮用户特有特征。 此前个性化工作多关注如何注入用户信号（检索式、逐用户微调、软提示插件），较少刻画用户信号与基座中性行为在同一输入下的关系，也未系统讨论风格指令带来的干扰。 该结论来自作者在 LaMP 文本生成任务上的实验观察，并配有四种预定义风格指令（Warm、Critical、Concise、Elaborative）下的对比结果；论文同时指出 LaMP 主要依赖 ROUGE-1/ROUGE-L 这类表层词汇重叠指标，使风格与个性化的交互“inherently entangled and difficult to disentangle”，因此补充了 LLM 评判与人工评判的风格得分。

论文提出把个性化视为“分布残差”：用户真实语言分布与基座 LLM 中性分布在相同输入下的偏离，并用风格条件下的偏好目标把用户特有信号从指令与风格效应中分离出来。 与标准偏好优化仅锚定通用基座分布（如论文提到的 LongPO）不同，该残差奖励在数学上区分两类竞争信号，从而在严格风格约束下保留细粒度人格保真度。 方法上以 Bradley–Terry 成对损失实现，偏好对由用户撰写文本与“仅遵循风格、不含用户信息”的风格基线构成；无风格指令时该框架退化为以中性基线为参照的特例。

论文给出 PsPLUG 这一轻量插件实现：在冻结主干上注入 3 token 前缀（系统指令向量、用户向量、输入向量），用户向量由用户历史经 PAG 文本描述、冻结句编码器（BGE-base-en-v1.5）与可训练 MLP 投影得到，输入向量由冻结主干池化特征经 MLP 编码得到。 由于主干冻结、用户信号被解耦为模块化前缀，可在不重载模型参数的情况下快速切换用户上下文，并通过对用户向量施加缩放系数实现推理时的连续强度控制。 实现细节明确：主干为 Qwen/Qwen3-8B，前缀注入输入嵌入层，前缀长度 3 token，训练 5 个 epoch 并早停，bfloat16 精度，8 张 NVIDIA H100 GPU；效率对比表显示 RAG 的存储随历史规模增长且延迟更高，PEFT 需要逐用户优化并带来适配器加载延迟，而 PsPLUG 一次性把用户画像编码为单个静态嵌入，推理时前缀长度恒定，计算成本与用户历史规模无关。

实验显示 PsPLUG 在无风格指令时总体优于基线，在有风格约束时保持较强个性化并取得最高风格得分，且强度系数可调节个性化与风格遵循的权衡。 论文报告在风格–任务–指标设置中超过 80% 取得最佳或次佳，较此前基线提升最高约 2–4 个 ROUGE 点；风格得分上 PsPLUG 在四种风格中均为最高。 主结果覆盖 LaMP-1/2M/3/4/5/7 六项任务与相应指标（ACC、F1、MAE、RMSE、ROUGE-1、ROUGE-L、METEOR）；风格实验覆盖 LaMP-4、LaMP-5、LaMP-7 与四种风格；风格与个性化得分由 LLM 评判给出并做人工验证，附录报告系统级相关性（风格得分 Pearson 0.858、Spearman 0.864、Kendall 0.725；人格得分 Pearson 0.704、Spearman 0.712、Kendall 0.589）。

该结果面向需要在显式风格指令下保持用户偏好的个性化生成场景，例如新闻标题生成、学术标题生成与推文改写；使用者是希望以低开销部署个性化、又需要按需调节个性化强度的工程与研究团队。方法的前提是能获得用户历史并离线构造画像嵌入，主干保持冻结，因此适合多用户快速切换与恒定前缀长度的服务形态；论文也把该框架定位为“a preliminary step”，用于提出解耦个性化与风格这一问题。

风格条件目前仅覆盖 Warm、Critical、Concise、Elaborative 四类预定义风格，真实场景中更细粒度、开放式与可组合的风格需求尚未纳入；实验限于 LaMP 基准分布内的特定主干模型，跨架构、多语言与长上下文领域的表现仍是开放问题。评测方面，LaMP 主要依赖 ROUGE-1/ROUGE-L 等表层重叠指标，风格与个性化的交互难以完全分离，论文因此补充 LLM 与人工评判，但两者在 Critical 与尤其 Elaborative 风格下差异更明显，说明细粒度人格线索的判定仍带主观性。此外，本证据包为论文全文与外部报道的合并文本，部分表格与图（如强度敏感性图、案例研究图）以引用形式出现而非完整数值，因此对强度缩放的具体曲线只能依据正文描述理解。