arXiv 2026年10月12日长上下文RL训练不再等自回归：稀疏自草稿加全注意力验证，吞吐提升1.39倍长上下文RLVR的rollout生成改用稀疏注意力起草、全注意力验证，在Qwen3-1.7B与Qwen3-8B上把端到端训练吞吐提高到自回归的1.39倍和1.35倍，同时保持任务表现相当。长上下文RLVR的rollout生成改用稀疏注意力起草、全注意力验证，在Qwen3-1.7B与Qwen3-8B上把端到端训练吞吐提高到自回归的1.39倍和1.35倍，同时保持任务表现相当。The Hong Kong University of Science and Technology (Guangzhou)Yuhang He（第一作者）#S3R自稀疏投机 rollout#投机解码#稀疏注意力#组相对策略优化#可验证奖励强化学习