跳到主要内容
返回时间线
Claude 产品博客来源发表:

NVIDIA 发布 Open Agent Safety Platform,与 Anthropic 合作为企业 AI 代理加上凭证隔离与运行时策略层

核心概要

NVIDIA 宣布推出开源软件平台与参考系统设计 Open Agent Safety Platform,并与 Anthropic 合作把 Claude Managed Agents 与开源运行时软件 NVIDIA OpenShell 组合起来:Managed Agents 把代理所需的密码和访问密钥存放在独立保险库中使代理本身看不到凭证,并提供审计轨迹与既有访问控制集成,OpenShell 则在代理之外对每一次工具调用、文件、网络连接和数据访问执行策略,默认全部阻断、仅放行规则允许的动作并记录每一次允许或阻断的决定,团队可从窄权限起步、查看日志并借助 Claude 收紧规则,再用策略证明器以数学证明确认代理在既定规则下能触及的范围

AI-generated editorial illustration: Giving companies more control over their AI agents, with NVIDIA

深度剖析

把代理的凭证与代理本身分离:Managed Agents 将密码和访问密钥保存在独立保险库中,代理循环运行在与沙箱不同的服务器上,因此代理永远看不到凭证。 此前企业部署代理时,凭证往往需要交给代理使用;这里把凭证持有与代理执行拆成两个位置,使代理即使被滥用也无法直接读取密钥。 文中以架构描述方式说明这一分离(“the agent loop runs on a separate server from the sandbox”“Credentials … are held in a separate vault, so the agent never sees them”),属于产品设计说明,未给出独立测评数据。

在模型之外增加独立的运行时策略层:开源 NVIDIA OpenShell 默认阻断一切,仅放行规则允许的动作,检查代理尝试使用的每个工具,并对文件、网络连接和数据访问施加规则,规则在代理之外执行且每次允许或阻断都被记录。 模型内部的安全防护之外,多了一层不依赖模型自身判断的外部约束,且各层被设计为独立执行各自的限制,因此防护不依赖任何单一层。 文中给出 OpenShell 的行为规则与日志机制描述,并说明其以 Apache 2.0 许可开源、发布在 GitHub 与 NVIDIA 开发者资源页;未提供第三方评测或攻击测试结果。

把权限收紧做成可迭代流程并给出可验证性:团队可从窄权限开始,查看日志,用 Claude 把规则收紧到任务所需的最小访问,再由 OpenShell 的策略证明器用数学证明确认代理在团队所写规则下能触及什么。 把“最小权限”从一次性配置变成“起步—审查—收紧—证明”的循环,并引入数学证明来确认规则的实际可达范围。 文中描述该流程与策略证明器的用途,属于能力说明;未给出证明规模、覆盖范围或误报情况的数据。

给出企业侧的使用形态:Managed Agents 提供安全沙箱、认证与工具执行、可自主运行数小时且断连后进度与输出仍保留的长会话、可派生并指挥其他代理以并行处理复杂工作的多代理编排,以及带范围化权限、身份管理与执行追踪的治理能力;Notion、Rakuten、Asana 被列为使用方,其中 Rakuten 的工程、产品、销售、市场与财务专业代理各在一周内完成部署。 把代理安全与治理能力与具体企业工作流(代码交付、网站与演示文稿制作、跨职能专业代理、项目内 AI 队友)对应起来,而不只是抽象的能力清单。 文中以客户案例形式陈述,未给出量化效果指标或对照数据;部署周期“within a week”为文中给出的唯一时间数字。

启示与展望

这套方案面向正在把代理接入真实业务系统的企业团队:需要代理使用专有数据、代表用户采取行动、并跨业务单元运行的组织,可以在自有基础设施或托管提供方的沙箱中部署 Managed Agents,并按自身环境选用模块化的各层。它适用于希望从窄权限起步、通过日志审查逐步收紧到任务所需最小访问,并用策略证明确认可达范围的团队;也适用于需要长会话、多代理编排与执行追踪的场景。文中给出的 Notion、Rakuten、Asana 案例说明这类能力已被用于代码交付、网站与演示文稿制作、跨职能专业代理与项目内 AI 队友等具体工作流。

文中未给出独立测评、攻击测试或量化对比数据,因此各层在实际对抗条件下的有效性仍待观察;策略证明器所覆盖的规则规模与可达范围确认的完整程度、日志在长期运行与多代理编排下的可审查性、以及“最小访问”收紧流程在复杂业务中的实际收敛速度,都是读者可以继续关注的问题。此外,客户案例以定性描述为主,除 Rakuten 各专业代理“within a week”部署外没有其他时间或效果数字,因此难以据此判断在更大规模组织中的表现。

来源