跳到主要内容
检索

# 多指令多Warp编程模型

1 篇关联报道

订阅更新
  1. Engineering at Meta

    Meta把GPU执行控制搬进Triton:TLX让生产训练与推理直接编排warp组

    Meta 推出 Triton 低层扩展 TLX,在保留 Triton 编程模型的前提下,让工程师显式编排 warp 组、异步数据搬运与集群执行。现代 GPU 的 warp 特化、张量内存和集群执行能力此前要么藏在编译器抽象之后,要么需要大量架构专用 CUDA 代码。TLX 已在 Meta 的推荐系统训练、推荐系统推理和大规模 LLM 预训练中投入生产,其中 GEM 训练在数千块 NVIDIA Blackwell GPU 上达到 20-25% 端到端 MFU。

已读完全部报道