谷歌云TPU首次把机密计算做进硬件,AMD第五代EPYC当宿主CPU
AMD宣布第五代EPYC处理器为谷歌云TPU 8tx提供宿主基础设施,后者是首个提供硬件强制机密计算的云TPU系统。此前云TPU的机密计算保护并不存在,这次把CPU上的AMD安全加密虚拟化能力延伸到相连的加速器,使提示词、模型权重和中间数据在CPU内存中及主机与加速器之间保持加密,并在加速器执行时保持硬件隔离。该能力面向推理、微调和强化学习等生产负载,AMD同时称EPYC是十余家超大规模云厂商和前沿AI实验室的宿主CPU选择。