浏览器智能体被诱导走岔路:STEER-Bench上攻击成功率94.4%,COBRA压到0%
直接操作图形界面的计算机使用智能体要在运行时按网页内容分支,攻击者便可构造不可信数据,把智能体逼进一条预先批准却危险的路径,而不必写入任何显式指令。STEER-Bench用9个领域的101个任务测这类分支转向攻击,标准智能体攻击成功率为94.4%,原版Dual-LLM架构为89.5%。COBRA把可信分支计划与事先设定的能力约束配对,严格限定每条分支可执行的参数与目标,在把攻击成功率降到0%的同时保留97%的正常用途。