跳到主要内容
检索

# 异步采样

2 篇关联报道

订阅更新
  1. vLLM Blog

    VeRL-Omni v0.3.0 把异步执行铺到多模态强化学习:短答案仍宜同步,长回答才轮到分离异步

    VeRL-Omni v0.3.0 把异步执行扩展到文本、音频输入与扩散模型的多模态强化学习训练,并把基于 TransferQueue 与 ReplayBuffer 的 V1 训练器设为默认。此前严格交替的循环会让生成与训练两个角色互相空等。在 MiniCPM-o 4.5 的音视频问答实验中,分离异步在自然短回答上每提示慢约 9%,在强制 1024 token 回答时每提示快约 6.7%,说明执行方式要按负载选。

  2. arXiv

    异步RL训练把上下文挤进更少解码步,INT4 KV缓存提速却掉点,选择性INT8保护补回精度

    异步RLVR训练在维持高并发时把上下文处理压缩进更少的解码步,使KV缓存而非权重成为主要开销。KV4-RL用免校准INT4存储全部上下文,只对注意力汇点和最近上下文做有界INT8保护,在Qwen3-4B-Base与Qwen3-8B-Base的全参数GRPO训练中,六项基准平均准确率与BF16 rollout相差不超过0.5个百分点,同时显著加快rollout与整轮迭代。

已读完全部报道