跳到主要内容
检索

# DAPO算法

3 篇关联报道

订阅更新
  1. Hugging Face - Blog

    0.8B参数也能当端侧助手:BotPsy在六项工具调用基准中五项超过2.5倍大的模型

    Tether AI Research 发布 0.8B 参数的端侧个人助手模型 BotPsy,基于 Qwen3.5-0.8B 经四阶段后训练强化工具调用。相比基座,BFCL v4 从 23.4 升到 44.0、ACEBench 从 30.1 升到 58.7、τ-bench 从 23.2 升到 51.5;在六项工具调用与智能体基准中五项领先,仅 Claw-Eval 落后于 2.5 倍大的 Qwen3.5-2B-Think。

  2. arXiv

    语言模型学会给语言模型开药方:只跑200次真实训练,27B模型在留出任务上压过GPT-6-sol

    语言模型改进语言模型时,判断哪条改动值得试一直靠昂贵训练实验来验证。LM2LM把冻结的大模型当作“研究世界模型”,用真实实验记录在上下文中预测改动收益,作为强化学习奖励,并定期执行当前策略高分提案、把实测结果补回记录。在八个自回归与扩散语言模型开发环境上,Qwen3.8-27B经此训练后在留出任务上超过GPT-6-sol,即使后者上下文中带有300条真实实验记录,且数据生成成本低约33%。

  3. arXiv

    ByteDance Seed与威斯康星大学把FP8强化学习全流程跑通:定位到熵激增的过裁剪成因,用Calibrated Clipping在8B到32B上追平BF16并取得最高1.5倍训练吞吐

    该工作研究大语言模型全流程FP8强化学习的训练稳定性,指出复合FP8量化噪声会扭曲重要性比值、使负优势token被过度下裁剪而梯度被错误置零,并提出Calibrated Clipping通过匹配BF16参考的下裁剪分位数并重新平衡上界来动态校准裁剪边界,在GRPO与DAPO、8B至32B模型和多种FP8缩放粒度上消除熵激增、恢复接近BF16的性能,同时训练吞吐最高可达BF16的1.5倍。

已读完全部报道