IBM Spyre 后端编译器开源:把 Inductor 的切分决定直接变成数据流流水线
IBM 开源了面向 Spyre 加速器的数据流调度器,它读取 KTIR 这一 MLIR 中间表示,把 Inductor 已经定好的核间分工、片上暂存与访问切块转成数据流流水线,再经设备相关阶段生成 SpyreCode。此前这些决定缺少一个能承载完整数据并行视图的接口,后端需自行重新发现映射。首个算子接入比旧栈快约 4 倍,后续算子约 8 倍,目前覆盖带广播与归约维度的逐元素运算。
IBM 开源了面向 Spyre 加速器的数据流调度器,它读取 KTIR 这一 MLIR 中间表示,把 Inductor 已经定好的核间分工、片上暂存与访问切块转成数据流流水线,再经设备相关阶段生成 SpyreCode。此前这些决定缺少一个能承载完整数据并行视图的接口,后端需自行重新发现映射。首个算子接入比旧栈快约 4 倍,后续算子约 8 倍,目前覆盖带广播与归约维度的逐元素运算。
已读完全部报道