跳到主要内容
检索

# PsPLUG

1 篇关联报道

订阅更新
  1. arXiv

    PsPLUG 用“个性化残差”插件缓解显式风格指令对用户偏好的压制,并在 LaMP 上取得更优表现

    该工作指出显式风格指令会削弱个性化大模型保留的用户特征(称为 personalization collapse),提出把个性化建模为同一输入下用户真实语言分布与基座模型中性分布之间的“分布残差”,并据此设计轻量插件 PsPLUG:在冻结的 Qwen3-8B 主干上注入由系统指令向量、用户向量和输入向量拼接而成的 3 token 前缀,用风格条件下的偏好目标(Bradley–Terry 成对损失)学习用户特有残差,并在推理时通过缩放系数调节个性化强度;在 LaMP 基准上,PsPLUG 在无风格指令时总体优于非个性化、RAG、PAG、PPlug、OPPU 等基线,在四种风格(Warm、Critical、Concise、E

已读完全部报道