多步智能体安全不再逐步各管一段:TAS用共享预算压住尾部风险,平均攻击成功率降到45.15%
多步LLM智能体的风险会沿工作流传播,而逐步独立校验看不到这种传播。TAS把工作流安全状态建成马尔可夫决策过程,用谱风险度量刻画罕见但代价高的尾部风险,并以一个跨步骤共享的预算约束每一步决策。在Agent Security Bench上,TAS在直接与间接提示注入下的平均攻击成功率分别为45.15%和29.73%,低于所比较的十一种防御基线。
多步LLM智能体的风险会沿工作流传播,而逐步独立校验看不到这种传播。TAS把工作流安全状态建成马尔可夫决策过程,用谱风险度量刻画罕见但代价高的尾部风险,并以一个跨步骤共享的预算约束每一步决策。在Agent Security Bench上,TAS在直接与间接提示注入下的平均攻击成功率分别为45.15%和29.73%,低于所比较的十一种防御基线。
已读完全部报道