跳到主要内容
检索

# ExecuTorch WebGPU 后端

1 篇关联报道

订阅更新
  1. PyTorch

    PyTorch模型不必转格式就能在浏览器GPU上跑:同一份.pte文件,解码比CPU路径快2–10倍

    ExecuTorch新增WebGPU后端,让PyTorch模型经torch.export导出为一份.pte文件后,直接在支持WebGPU的浏览器里用GPU推理,无需先转成GGUF、ONNX或TFLite等其它框架格式。此前在浏览器跑PyTorch模型通常要先做这种格式转换。在Apple M1 Pro的Chrome上,以4比特量化的Llama 3.2 1B和Qwen3-0.6B对比ExecuTorch自身的Wasm CPU后端(XNNPACK),预填充快4–7倍、解码快2–10倍。

已读完全部报道