Trainium 不再要求改写模型:TorchNeuron 让 PyTorch 代码只改一行设备名就跑起来
AWS 发布 TorchNeuron,一个面向 Trainium 芯片的原生 PyTorch 后端,模型代码、库和工具无需为 Neuron 单独适配即可运行。此前在 Trainium 上使用 Hugging Face 模型需要 Neuron 专用软件与配置,现在只需把设备指向 neuron。它基于 PyTorch 的 PrivateUse1 扩展点注册设备,支持 eager、torch.compile 与自定义 NKI 算子,覆盖 Trainium2 和 Trainium3,10 月 20 日以 Apache 2.0 公开 Beta 发布。