谷歌第八代TPU一年内扩到四款:8i Max 主攻百万级上下文,8tx 做机密推理
谷歌在第八代 TPU 中新增 TPU 8i Max 与 TPU 8tx 两套系统,前者面向超长上下文与单机架最高算力密度,后者面向安全与机密推理,这是谷歌首次在一年内推出四款 TPU 系统。此前同代已有面向大规模训练的 8t 和面向实时推理的 8i,谷歌称二者相较上一代分别带来最高 2.7 倍的训练性能和 80% 的推理性价比提升。新系统沿用模块化定制芯片加开放软件栈的思路,围绕芯片重组计算、网络与存储,以数月而非数年的节奏交付专用超级计算机。