谷歌云TPU首次把机密计算做进硬件,AMD第五代EPYC当宿主CPU
AMD宣布第五代EPYC处理器为谷歌云TPU 8tx提供宿主基础设施,后者是首个提供硬件强制机密计算的云TPU系统。此前谷歌云的机密计算组合覆盖机密虚拟机、机密GKE、机密空间等CPU侧工作负载,机密AI加速不在其中。TPU 8tx借助EPYC的安全加密虚拟化(SEV)把保护延伸到相连加速器,使提示词、模型权重和中间数据在CPU内存与传输中保持加密,并在加速器执行时获得硬件隔离,面向推理、微调和强化学习等企业负载。
AMD宣布第五代EPYC处理器为谷歌云TPU 8tx提供宿主基础设施,后者是首个提供硬件强制机密计算的云TPU系统。此前谷歌云的机密计算组合覆盖机密虚拟机、机密GKE、机密空间等CPU侧工作负载,机密AI加速不在其中。TPU 8tx借助EPYC的安全加密虚拟化(SEV)把保护延伸到相连加速器,使提示词、模型权重和中间数据在CPU内存与传输中保持加密,并在加速器执行时获得硬件隔离,面向推理、微调和强化学习等企业负载。
AMD宣布第五代EPYC处理器为谷歌云TPU 8tx提供宿主基础设施,后者是首个提供硬件强制机密计算的云TPU系统。此前云TPU的机密计算保护并不存在,这次把CPU上的AMD安全加密虚拟化能力延伸到相连的加速器,使提示词、模型权重和中间数据在CPU内存中及主机与加速器之间保持加密,并在加速器执行时保持硬件隔离。该能力面向推理、微调和强化学习等生产负载,AMD同时称EPYC是十余家超大规模云厂商和前沿AI实验室的宿主CPU选择。
已读完全部报道