英伟达机密计算添裸金属选项:前沿模型可在第三方专用基础设施上跑敏感负载,模型与数据控制权仍归构建者
核心概要
英伟达为机密计算新增机密裸金属部署选项,让前沿模型构建者在第三方云、新型云和企业基础设施的专用裸金属实例上运行敏感负载,同时保留对模型和数据的控制。机密计算现以融合安全架构提供机密裸金属、机密容器与机密虚拟机三种部署方式,并配套传输中数据保护、平台完整性度量和硬件级访问限制。Cohere计划将其接入Model Vault,Google Cloud计划把支持扩展到基于GB300 NVL72的A4X Max实例。
深度剖析
前沿模型构建者可以在第三方运营的专用裸金属实例上运行敏感负载,并继续掌控自己的模型和数据。 机密计算此前以机密容器和机密虚拟机两种形态提供,分别面向Kubernetes环境和虚拟化环境。 机密裸金属与机密容器、机密虚拟机并列为同一套融合安全架构下的三种部署选项,组织可按自身信任边界和运行要求选择。
这套能力依靠硬件根植的隔离和密码学证明,在模型与数据执行期间提供保护。 新增的平台安全控制覆盖传输中数据保护、平台完整性度量以及硬件级访问限制。 这些控制让模型构建者在第三方云、新型云和企业基础设施的英伟达加速计算上,拥有并运营包括主机与平台基础设施软件在内的自有软件栈。
生态侧已有具体计划:Cohere拟把机密裸金属接入Cohere Model Vault,Google Cloud拟把支持扩展到A4X Max实例。 Cohere称将借助可信执行环境把硬件根植的安全延伸到GPU,保护内存中及跨互连传输的模型与数据。 Google Cloud的A4X Max实例由GB300 NVL72系统驱动,把非虚拟化的英伟达加速计算与针对训练数据和模型知识产权的密码学保护结合起来。
启示与展望
报道范围限于英伟达公布的机密计算扩展内容:机密裸金属这一部署选项、与之并列的机密容器和机密虚拟机、新增的平台安全控制,以及向Grace Blackwell NVL72、HGX Rubin NVL8和DGX Rubin NVL8系统的支持延伸。目标读者是需要在第三方基础设施上运行敏感模型负载的基础设施工程师与模型构建团队。Cohere与Google Cloud的接入属于已宣布的计划,而非已完成的部署。
英伟达未给出机密裸金属相对非机密路径的性能开销数据,也未说明完整性度量和访问限制的具体实现细节。Cohere与Google Cloud的表述为计划或支持扩展,落地时间与覆盖范围尚未明确。支持厂商名单与系统合作伙伴名单属于生态声明,不构成对这些能力已在各平台全面可用的证明。
