跳到主要内容
检索

Fady Copty

1 篇关联报道

订阅更新
  1. arXiv

    智能体安全改看“部署目的”:四类判定宏F1从45%升到79%,越界请求F1从8%升到76%

    现有智能体防护主要识别提示注入、有害输出或可疑行为,却难以判断一次操作是否仍符合该智能体被部署的用途。Intent-Aware Security 把组织、角色与开发者意图抽取成每个智能体专属的 Intent Profile,作为安全判定的参照对象,并据此实现执行前检测、执行后检测、输入对齐与系统提示加固四种防护。在 887 条样本、35 个智能体配置的基准上,基于 Intent Profile 的执行前检测把四类宏 F1 从原始上下文的 45% 提升到 79%,越界类 F1 从 8% 提升到 76%。

已读完全部报道