跳到主要内容
检索

# 弹性模型单元

1 篇关联报道

订阅更新
  1. arXiv

    Nereus 让 RL 后训练在运行中自适应并行:真实数据轨迹上平均步延迟降 27.7%,8B PPO 吞吐最高达 OpenRLHF 的 7.27 倍

    Nereus 是一个面向大语言模型强化学习后训练的成本感知运行时,它把每个模型-阶段副本抽象为 Elastic Model Unit,用全局转移图编排 Split、Merge、Extend、Destroy 四种原语,在运行中按“收益能否偿还转移成本”的准则在线调整 DP/TP/PP 执行计划;在真实数据构建的轨迹上,在线 TP/PP 自适应相对初始固定 TP/PP 布局把平均步延迟降低 27.7%,1,000 步扩展到 1,024 GPU 的运行中六次转移仅占总运行时间的 0.079%,8B PPO 端到端吞吐相对 OpenRLHF 提升 2.14–7.27 倍、相对 Verl 提升 1.10–1.47 倍。

已读完全部报道