跳到主要内容
检索

# 内核优化

2 篇关联报道

订阅更新
  1. Engineering at Meta

    Meta把GPU执行控制搬进Triton:TLX让生产训练与推理直接编排warp组

    Meta 推出 Triton 低层扩展 TLX,在保留 Triton 编程模型的前提下,让工程师显式编排 warp 组、异步数据搬运与集群执行。现代 GPU 的 warp 特化、张量内存和集群执行能力此前要么藏在编译器抽象之后,要么需要大量架构专用 CUDA 代码。TLX 已在 Meta 的推荐系统训练、推荐系统推理和大规模 LLM 预训练中投入生产,其中 GEM 训练在数千块 NVIDIA Blackwell GPU 上达到 20-25% 端到端 MFU。

  2. arXiv

    智能体循环自学陌生NPU:12天把Gemma-4-12B三个解码核提速9.293倍

    前沿大模型能为成熟平台写出正确的CUDA核,但面对架构和编程语言都很少见的加速器时准确率骤降。一个多智能体循环在FuriosaAI RNGD NPU上先自行建立目标知识——校验过的DSL文档摘要、微基准测得的芯片事实和编译器给出的合法性规则——再在每核设计树上搜索整核设计与小改动。12天后三个Gemma-4-12B解码核相对官方基线取得9.293的几何平均加速,每个核的周期数不超过搬运其权重所需最少周期的1.25倍。

已读完全部报道