AWS Trainium 上的 Hugging Face 模型运行方式换了底座:新的 PyTorch 原生后端 TorchNeuron 把 Neuron 芯片暴露为普通设备,支持即时执行、torch.compile 与原生分布式接口,不再依赖基于 PyTorch XLA 的 optimum-neuron。按 Hugging Face 给出的对照,最常用的 100 个文本生成模型架构中开箱支持比例从 Optimum Neuron v0.4.5 的 46% 升到 89%。该后端自 2026 年 10 月 20 日起进入公开测试。
AWS Trainium 上的 Hugging Face 模型运行方式换了底座:新的 PyTorch 原生后端 TorchNeuron 把 Neuron 芯片暴露为普通设备,支持即时执行、torch.compile 与原生分布式接口,不再依赖基于 PyTorch XLA 的 optimum-neuron。按 Hugging Face 给出的对照,最常用的 100 个文本生成模型架构中开箱支持比例从 Optimum Neuron v0.4.5 的 46% 升到 89%。该后端自 2026 年 10 月 20 日起进入公开测试。