Juanyang Xu

该工作从概率角度重新表述 LLM 智能体越狱：证明期望危害度对数对输入的梯度，等于在危害度重加权输出分布下模型对数似然的期望梯度，从而把期望危害度最大化与目标似然优化统一起来；据此提出 OPUR，用模型自身随机 rollout 构造代理目标来引导对抗后缀优化，在 AgentHarm、InjecAgent、WebShop 三个基准上取得更高的定向攻击成功率。

该工作从概率角度重新表述 LLM 智能体越狱：证明期望危害度对数对输入的梯度，等于在危害度重加权输出分布下模型对数似然的期望梯度，从而把期望危害度最大化与目标似然优化统一起来；据此提出 OPUR，用模型自身随机 rollout 构造代理目标来引导对抗后缀优化，在 AgentHarm、InjecAgent、WebShop 三个基准上取得更高的定向攻击成功率。