跳到主要内容
检索

# AgentHarm 基准

1 篇关联报道

订阅更新
  1. researchsquare.com

    换个说法就放行:给归因加一致性约束,小工具智能体的拒答翻转率从11.3%降到9.3%

    工具型语言模型智能体常对同一有害请求的一种措辞拒答、对另一种措辞照做,而漏掉的拒答会变成真实动作。研究在Llama-3.2-1B-Instruct上用LoRA微调,训练数据不取自AgentHarm,并把潜归因正则化(LAR)与仅做同义改写的对照在三个随机种子上比较。在无害工具任务上把过度拒答对齐到10%后,LAR把同一任务内拒答不一致的比例从25%降到19%,把改写引起的决策翻转率从11.3%降到9.3%,而有害与无害的区分能力没有显著变化。

已读完全部报道