Yutong Song

该工作指出显式风格指令会削弱个性化大模型保留的用户特征（称为 personalization collapse），提出把个性化建模为同一输入下用户真实语言分布与基座模型中性分布之间的“分布残差”，并据此设计轻量插件 PsPLUG：在冻结的 Qwen3-8B 主干上注入由系统指令向量、用户向量和输入向量拼接而成的 3 token 前缀，用风格条件下的偏好目标（Bradley–Terry 成对损失）学习用户特有残差，并在推理时通过缩放系数调节个性化强度；在 LaMP 基准上，PsPLUG 在无风格指令时总体优于非个性化、RAG、PAG、PPlug、OPPU 等基线，在四种风格（Warm、Critical、Concise、E

该工作指出显式风格指令会削弱个性化大模型保留的用户特征（称为 personalization collapse），提出把个性化建模为同一输入下用户真实语言分布与基座模型中性分布之间的“分布残差”，并据此设计轻量插件 PsPLUG：在冻结的 Qwen3-8B 主干上注入由系统指令向量、用户向量和输入向量拼接而成的 3 token 前缀，用风格条件下的偏好目标（Bradley–Terry 成对损失）学习用户特有残差，并在推理时通过缩放系数调节个性化强度；在 LaMP 基准上，PsPLUG 在无风格指令时总体优于非个性化、RAG、PAG、PPlug、OPPU 等基线，在四种风格（Warm、Critical、Concise、E

CARD 提出一种分层个性化文本生成框架：先按写作风格把用户聚类并为每个簇训练共享 LoRA 适配器，再用对比用户文本与簇级生成结果的隐式偏好学习得到轻量用户偏好向量，推理时仅通过低秩 logit 修正进行解码期个性化，在 LaMP 与 LongLaMP 六个任务、两个指标共 12 个设置中排名第一的有 10 个，并在低资源用户、跨模型规模与存储效率上表现稳定。

CARD 提出一种分层个性化文本生成框架：先按写作风格把用户聚类并为每个簇训练共享 LoRA 适配器，再用对比用户文本与簇级生成结果的隐式偏好学习得到轻量用户偏好向量，推理时仅通过低秩 logit 修正进行解码期个性化，在 LaMP 与 LongLaMP 六个任务、两个指标共 12 个设置中排名第一的有 10 个，并在低资源用户、跨模型规模与存储效率上表现稳定。