谷歌云TPU首次把机密计算做进硬件,AMD第五代EPYC当宿主CPU
核心概要
AMD宣布第五代EPYC处理器为谷歌云TPU 8tx提供宿主基础设施,后者是首个提供硬件强制机密计算的云TPU系统。此前谷歌云的机密计算组合覆盖机密虚拟机、机密GKE、机密空间等CPU侧工作负载,机密AI加速不在其中。TPU 8tx借助EPYC的安全加密虚拟化(SEV)把保护延伸到相连加速器,使提示词、模型权重和中间数据在CPU内存与传输中保持加密,并在加速器执行时获得硬件隔离,面向推理、微调和强化学习等企业负载。
深度剖析
谷歌云TPU 8tx成为首个提供硬件强制机密计算的云TPU系统,其宿主CPU是AMD第五代EPYC处理器。 此前谷歌云的机密计算组合覆盖机密虚拟机、机密GKE、机密空间等CPU侧工作负载,机密AI加速不在其中。 AMD称,TPU 8tx把这一合作从CPU侧机密计算扩展到机密AI加速,并称这是云TPU首次获得硬件强制机密计算。
在TPU 8tx系统中,第五代EPYC负责工作负载编排、数据准备以及与TPU加速器的高吞吐通信。 加速器依赖宿主处理器供数、调度工作并连接周边应用与服务,因此宿主CPU的选择直接关系系统性能与部署。 系统使用EPYC中的AMD安全加密虚拟化(SEV)能力,与TPU配合把机密计算保护从CPU延伸到相连加速器。
保护机制在授予加速器直接访问受保护内存之前,先核验加速器身份与安全配置。 这一核验让客户提示词、模型权重和中间数据在CPU内存中及宿主与加速器之间传输时保持加密。 AMD称加速器执行期间同时具备硬件隔离,面向推理与智能体类AI应用中的敏感信息使用。
启示与展望
报道范围限于AMD与谷歌云公布的合作内容:第五代EPYC为TPU 8tx提供宿主基础设施,以及该系统的机密计算机制与适用负载类型。
AMD说明Infinity Guard安全特性因EPYC代际与系列而异,且需由服务器OEM或云服务商启用后才能生效,用户应向提供商确认支持情况。
