Cleave 用符号化解耦把代数变换与算子调度分开,在 LLM 子图上生成比最佳基线快 2.8 倍的融合内核
Cleave 是一个基于符号化解耦的 ML 编译器:它在符号形状图上做超优化发现代数等价变换,再在具体形状上对每个结果图做调度,通过迭代分块与水平融合来融合含多个归约的图;在常见 LLM 子图上生成的内核比最佳基线快至多 2.8 倍(平均 1.6 倍),编译时间比 Mirage 平均减少 5.9 倍。
Cleave 是一个基于符号化解耦的 ML 编译器:它在符号形状图上做超优化发现代数等价变换,再在具体形状上对每个结果图做调度,通过迭代分块与水平融合来融合含多个归约的图;在常见 LLM 子图上生成的内核比最佳基线快至多 2.8 倍(平均 1.6 倍),编译时间比 Mirage 平均减少 5.9 倍。
已读完全部报道