跳到主要内容
检索

# AI智能体安全

2 篇关联报道

订阅更新
  1. arXiv

    工具描述被当成安全契约:273个MCP服务器里,253个漏洞不靠崩溃也能触发

    大模型智能体调用外部工具时,编排层只保证调用格式合法,并不保证参数安全。ToFu把工具元数据里对参数含义的描述转成可执行的安全检查,再据此生成模糊测试输入和判定规则,在273个可运行的MCP服务器、3405个工具上确认了118个服务器、343个工具中的253个漏洞,其中多数调用正常返回。

  2. NVIDIA Research

    AI 安全是一项工程问题:在智能体技术栈的每一层加以解决

    本文主张 AI 安全应作为工程问题处理,即需要明确的安全需求、可强制执行的管控、具名的责任人和防护有效的证据,并提出安全取决于整个智能体技术栈(模型、harness、运行时环境)各层的协同,介绍了 NVIDIA OpenShell 这一开源安全运行时及其在 Open Secure AI Alliance 伙伴中的集成,以及 CrowdStrike SafeMind、Palo Alto Networks Prisma AIRS、Capital One VulnHunter、ReversingLabs Spectra Assure 等防御工具示例,强调开放共享失败证据与验证方法以加速防御方优势。

已读完全部报道