智能体任务完成得越好,隐私泄露越多:936个可执行任务测出32.5%到94.4%的泄露率
AgentCIScope把隐私案例变成跨11个应用环境的936个可执行智能体任务,测出12个智能体的单次泄露率从32.5%到94.4%,且任务完成得好并不等于守得住上下文完整性。
AgentCIScope把隐私案例变成跨11个应用环境的936个可执行智能体任务,测出12个智能体的单次泄露率从32.5%到94.4%,且任务完成得好并不等于守得住上下文完整性。
研究者提出并形式化定义了浏览器使用智能体(BUA)中的“行为侧信道泄露”,构建了包含 20 个场景、100 个任务的 AgentTell 基准,在六个骨干模型上运行 9,760 次会话,发现携带秘密的智能体在 61.1% 的会话中通过任务导向的动作选择泄露了用户明确要求保密的私人信息,即便智能体在记忆中写明不得分享,仍有 56.7% 的此类会话发生泄露,且 34.5% 的泄露会话在最终回复中错误地保证未披露任何信息。
已读完全部报道