跳到主要内容
检索

# Sentry

4 篇关联报道

订阅更新
  1. NVIDIA Technical Blog

    英伟达开源 OpenShell 运行时:把权限放到智能体之外,Vera 上沙箱启动快 3 倍以上

    英伟达发布开源运行时 OpenShell,把 AI 智能体的访问权限与治理放到智能体之外的运行环境中,而不是依赖智能体自我约束。长时间自主运行的智能体会下载代码、申请新权限并接触更多基础设施,风险随之累积。OpenShell 用网关、独立监督器、沙箱和策略证明器四个组件约束文件、网络与凭证访问;在参考架构中,CoreWeave 测得 Vera 上沙箱启动比 x86 快 3 倍以上,单机架可支撑超过 11000 个并发智能体环境。

  2. NVIDIA Technical Blog

    英伟达把AI智能体的安全边界搬进BlueField-4:主机被攻破,监控与拦截仍在芯片里运行

    英伟达在GTC Berlin宣布NVIDIA Sentry,一套运行在BlueField-4 DPU上的AI智能体安全框架,把对智能体访问模型、工具和数据的监控与策略执行放到主机软件触及不到的独立硬件信任域。此前的智能体安全依赖软件运行时边界,智能体一旦逃出沙箱就可能改动或关闭自身限制;Sentry通过DOCA Tower透明代理检查智能体与模型的通信,并用DOCA Argus在主机之外读取运行时状态,在毫秒级实施隔离。该框架计划于明年初可用,目前开发者可先用DOCA Argus、DOCA Flow等库和微服务试验带外可观测性与基础设施层执行。

  3. arXiv

    Sentry 让 LLM 智能体在测试时按需检索失败教训,在多个基准上平均超越最强运行时干预基线 37%

    该工作提出 Sentry——一个与智能体并行运行的失败管理层:检测到失败时从外部 playbook 检索匹配教训引导恢复,在无任务奖励的情况下验证智能体是否恢复,仅在恢复成功时写入新教训,且完整 playbook 从不进入智能体上下文;在多个智能体基准上,Sentry 在每个基准上都优于最强运行时干预基线,平均提升 37%,在两者均被评估的两个基准上优于最强上下文演化基线 39%,与上下文演化结合还能带来进一步增益,学到的教训可迁移到留出任务,受控实验显示把完整 playbook 暴露给智能体会降低性能。

  4. NVIDIA Technical Blog

    NVIDIA 发布 Open Agent Safety Platform:以 OpenShell 沙箱与 BlueField-4 在硅上执行智能体策略

    NVIDIA 推出开放智能体安全平台,包含 Apache 2.0 许可的开源安全运行时 OpenShell(内核级隔离沙箱,把操作者指令转为可验证策略并在运行前与运行中执行),以及可选的 NVIDIA Sentry 与 DOCA 层,把监控与策略执行下沉到 BlueField 硬件,在 Vera Rubin POD 中每块计算托盘经 BlueField-4 位于节点通往模型的唯一路径上,实现带外可观测与线速实时策略执行,并称已在 Vera 与 BlueField-4 系统上通过软件更新即可启用。

已读完全部报道