跳到主要内容
检索

Guoqin Xiong

1 篇关联报道

订阅更新
  1. arXiv

    SecureGARD给工具调用加语义闸门:三个基准、两种骨干上观测攻击成功率均为0%

    工具型大模型智能体把模型输出变成真实操作,间接提示注入因此成为执行安全问题。SecureGARD在规划与工具执行之间插入一层可执行本体,把异构工具调用归一到共享的语义动作,再结合当前任务状态判定为就绪、等待或禁止。在AgentDojo、ASB与AgentDyn的良性及间接注入设置下,两种骨干上的观测攻击成功率均为0%,受攻击时的任务效用优于所比较的基线。

已读完全部报道