跳到主要内容
检索

Maciej Besta

1 篇关联报道

订阅更新
  1. arXiv

    推理模型强化学习训练不再只调执行:RPEG把流水线结构也纳入搜索,256块GH200上相对ReaL最高提速2倍

    推理语言模型的强化学习训练每步要串起生成、评估、训练多个大模型,现有系统通常只优化其中一部分。RPEG把流水线结构(有界异步、actor–critic共享)与执行方案(阶段融合、细粒度调度、多维并行)放进同一张图里联合搜索,并配一个经硬件校准的解析性能模型。在最多256块GH200上,其运行时相对ReaL端到端最高提速2倍,相对verl每步延迟最高降低2.48倍,硬件利用率最高提升30%。

已读完全部报道