跳到主要内容
检索

# vime

1 篇关联报道

订阅更新
  1. vLLM Blog

    训练与推演不再各算各的:vime 与 RL-Kernel 在 AMD MI300X 上连续 200 步对数概率逐位一致

    强化学习后训练中,训练引擎与推演引擎即使模型、权重和输入相同,也会因算子、并行方式和归约顺序不同而算出不同的对数概率,进而影响重要性比、KL 诊断和裁剪。vime 负责对齐训练时间线,RL-Kernel 负责对齐数值执行,二者在 AMD Instinct MI300X 上把注意力、前馈网络、对数概率和通信路径统一到同一数值契约。在 8 卡 MI300X 上运行 Qwen3-8B 的 GRPO 实验,严格路径连续 200 步的 mismatch_count 与 max_abs_diff 均为零。

已读完全部报道