个人智能体的跨服务风险有了新查法:从工具依赖图采样,平均有害路径率19.2%
红队框架X-AgentRed不再让大模型凭训练记忆猜工具组合,而是从工具依赖图采样跨服务路径,在30个服务、914个工具的模拟生态里对四个前沿智能体把平均有害路径率做到19.2%,高于STAC的10.5%和TRACE的2.7%。
红队框架X-AgentRed不再让大模型凭训练记忆猜工具组合,而是从工具依赖图采样跨服务路径,在30个服务、914个工具的模拟生态里对四个前沿智能体把平均有害路径率做到19.2%,高于STAC的10.5%和TRACE的2.7%。
已读完全部报道