工具名对、参数被换:BiCP在922例固定回放上把已确认注入攻击从83/682压到0/682
工具调用型语言模型智能体可能选对工具却执行被注入的参数,而现有反事实防护在评分时保留已含注入决策的推理前缀,会丢失来源敏感性。BiCP在执行前去掉当前步推理前缀,同时用工具名目标和完整调用目标做双轴探测,并按操作风险路由。在922例固定回放上,完整方法把已确认的InjecAgent攻击从83/682降到0/682、不安全条件执行从33/240降到0/240,良性任务成功从66/120升到78/120。
工具调用型语言模型智能体可能选对工具却执行被注入的参数,而现有反事实防护在评分时保留已含注入决策的推理前缀,会丢失来源敏感性。BiCP在执行前去掉当前步推理前缀,同时用工具名目标和完整调用目标做双轴探测,并按操作风险路由。在922例固定回放上,完整方法把已确认的InjecAgent攻击从83/682降到0/682、不安全条件执行从33/240降到0/240,良性任务成功从66/120升到78/120。
配电网故障自愈长期在决策质量、实时性和可解释性之间取舍:数学规划接近最优但耗时,深度强化学习毫秒级决策却难以说明理由。一种把图注意力网络嵌入软演员—评论家智能体、并将韧性指数直接写入奖励的方法,在IEEE 33节点与123节点系统上把在线决策压到2.3毫秒,与混合整数线性规划最优解的差距为2.8%。注意力热图与SHAP归因同时给出智能体关注哪里、为何这样决策。
已读完全部报道