研究者从模型激活中提取用户角色向量，发现助手偏见在表征层面可识别，且用户行为可被方向性调控
核心概要
该工作从模型激活层面分析LLM用户模拟器中的“助手偏见”，通过对比同一对话中模型对用户视角与助手视角的表征，提取出用户角色向量，发现用户方向在激活中可识别并能引发类用户行为、且与助手特质不同，同时用户角色激活与模拟真实感相关、对其进行引导可增强真实感，但也会夸大用户行为并覆盖个体用户画像。
Figure 1: We extract the user role vector to analyze (A) how assistant bias shapes LLM simulator behavior and (B) whether steering along this direction influences it.
arXiv深度剖析
用户方向在模型激活中可被识别，并能引发类用户行为，其捕捉到的特征与助手特质不同。 此前工作指出助手偏见在模型训练阶段就已固化，角色扮演提示无法覆盖；该工作转而从模型激活入手，用对比同一对话中用户视角与助手视角的方式提取用户角色向量，把偏见分析从提示层面推进到表征层面。 证据来自对模型激活的对比分析，作者报告用户方向可识别、可引发类用户行为，且与助手特质相区分；摘要未给出具体样本量或统计量。
用户角色激活与模拟真实感相关联，对激活进行引导可增强真实感，但引导也可能夸大用户行为并覆盖个体用户画像。 该工作不仅定位了用户方向，还检验了沿该方向引导的效果，指出增强真实感与保持个体用户画像之间存在张力，这是对用户模拟器可控性的表征层面刻画。 证据来自对用户角色激活与模拟真实感关联的观察以及引导实验；摘要未报告具体效应量或评估指标数值。
助手偏见在结构上可识别，用户行为可以被方向性分析。 该工作给出用户模拟器的表征层面分析，把助手偏见从一种行为现象转化为可在激活空间中定位和操作的结构。 结论基于上述两项发现，属于对激活层面分析的总结；摘要未提供跨模型或跨数据集的验证细节。
启示与展望
该工作面向使用LLM用户模拟器进行大规模智能体评估的研究与工程场景，适用于需要判断模拟器是否忠实再现真实用户行为（包括挫败与脱离）的读者。它把助手偏见定位为可在激活空间中识别的结构，并展示沿用户方向引导可增强模拟真实感，这为后续在表征层面诊断和调节用户模拟器提供了起点。
摘要未给出样本量、效应量、具体评估指标，也未说明所用模型与对话数据的范围，因此引导增强真实感与夸大用户行为之间的权衡在多大程度上稳定，仍是读者需要留意的开放问题。此外，用户角色向量是否在不同模型或不同任务上同样可识别，摘要未作说明。