跳到主要内容
检索

# AWS Trainium

2 篇关联报道

订阅更新
  1. Amazon Science homepage

    PyTorch代码不改就能跑上Trainium:亚马逊用841个代表模型和形状注册表做验收

    亚马逊发布开源后端TorchNeuron,把PyTorch代码翻译成可在AWS Trainium上执行的操作,已在其他加速器上运行的PyTorch代码只需极少改动甚至不改即可迁移。它新增可选的“自适应eager”模式,把算子分组成小图编译并缓存,以接近全编译的性能保留eager模式的调试体验。评估侧由AI智能体扫描Hugging Face仓库,筛出841个覆盖各类架构的代表模型,并整理出数万种张量形状用于调优与基准测试。

  2. Hugging Face - Blog

    Trainium不再要按编译器思路写代码:PyTorch原生后端让89%热门文本生成架构直接跑

    AWS Trainium 上的 Hugging Face 模型运行方式换了底座:新的 PyTorch 原生后端 TorchNeuron 把 Neuron 芯片暴露为普通设备,支持即时执行、torch.compile 与原生分布式接口,不再依赖基于 PyTorch XLA 的 optimum-neuron。按 Hugging Face 给出的对照,最常用的 100 个文本生成模型架构中开箱支持比例从 Optimum Neuron v0.4.5 的 46% 升到 89%。该后端自 2026 年 10 月 20 日起进入公开测试。

已读完全部报道