跳到主要内容
返回时间线
NVIDIA Technical Blog来源发表:

英伟达开源 OpenShell 运行时:把权限放到智能体之外,Vera 上沙箱启动快 3 倍以上

核心概要

英伟达发布开源运行时 OpenShell,把 AI 智能体的访问权限与治理放到智能体之外的运行环境中,而不是依赖智能体自我约束。长时间自主运行的智能体会下载代码、申请新权限并接触更多基础设施,风险随之累积。OpenShell 用网关、独立监督器、沙箱和策略证明器四个组件约束文件、网络与凭证访问;在参考架构中,CoreWeave 测得 Vera 上沙箱启动比 x86 快 3 倍以上,单机架可支撑超过 11000 个并发智能体环境。

Source-provided article image: How NVIDIA OpenShell Reference Architecture Secures and Governs AI Agent Workloads at Scale
Figure 1 · NVIDIA 开发者技术博客

深度剖析

英伟达推出开源运行时 OpenShell,把 AI 智能体在运行期间视为不可信对象,按需授予其访问文件、互联网服务和物理设备交互系统的权限。 此前的做法依赖智能体自身遵守安全约束,而智能体以目标为导向,追求任务完成时未必把安全放在优先位置。 OpenShell 被定位为英伟达 OpenShell 参考架构的基础,该架构还包含运行大模型的 Vera Rubin 平台,以及运行在 BlueField-4 DPU 上的 NVIDIA Sentry。

OpenShell 由四个组件分工:网关管理沙箱生命周期与策略,监督器在沙箱之外检查对外请求并代管凭证,沙箱隔离智能体负载并限制文件系统与进程访问,策略证明器用形式化验证检查策略权限是否超出组织设定的上限。 监督器完全独立于沙箱运行,因此权限判定不发生在被监管的智能体一侧。 监督器中间件可检查、阻断或修改智能体经网络收发的内容,网关拦截器允许运维方在不修改网关的情况下加入部署专属治理。

在参考架构中,OpenShell 运行在英伟达 Vera CPU 上,CoreWeave 测得 Vera 上的沙箱启动比 x86 快 3 倍以上,单机架支持超过 11000 个并发智能体环境。 智能体按依赖步骤循环执行推理、调用工具、运行代码和查询数据,每一步都要等前一步完成,因此单步延迟与沙箱密度共同决定基础设施能承载多少智能体工作。 CoreWeave 在 Terminal Bench 上测得 Vera 比 x86 快 1.8 倍,覆盖从脚本编写到数据库恢复的智能体任务。

启示与展望

报道范围限于英伟达对 OpenShell 参考架构的描述,以及 CoreWeave 在 Vera 与 x86 上对沙箱启动和 Terminal Bench 的对比测量;读者对象是部署智能体基础设施的工程师。

沙箱启动 3 倍以上与 Terminal Bench 1.8 倍是 CoreWeave 在特定平台上测得的结果;BlueField-4 与 NVIDIA Sentry 被描述为在软件边界之外增加的可选硬件防护。