PyTorch大会把训练与推理铺到更多芯片:TorchTPU与TorchNeuron让迁移可能只需改设备
PyTorch基金会北美大会在圣何塞举行,会上公布多项让PyTorch在更多硬件上原生运行的工作。Google与Meta合作的TorchTPU为Google TPU提供原生后端,支持eager执行与torch.compile;面向AWS Trainium的TorchNeuron以Apache 2.0公开测试版发布,只需一次配置改动即可运行PyTorch负载。负载迁移可能只需更换设备,但要达到峰值性能可能仍需调整形状、分片与算子。