0.8B参数也能当端侧助手:BotPsy在六项工具调用基准中五项超过2.5倍大的模型
核心概要
Tether AI Research 发布 0.8B 参数的端侧个人助手模型 BotPsy,基于 Qwen3.5-0.8B 经四阶段后训练强化工具调用。相比基座,BFCL v4 从 23.4 升到 44.0、ACEBench 从 30.1 升到 58.7、τ-bench 从 23.2 升到 51.5;在六项工具调用与智能体基准中五项领先,仅 Claw-Eval 落后于 2.5 倍大的 Qwen3.5-2B-Think。
深度剖析
一个不到十亿参数的模型被专门训练成会调用工具的个人助手,可在设备本地运行,覆盖网页搜索、日历、邮件、设备控制等日常任务。 此前的选择是调用云端前沿大模型,运营成本高且会波动,第三方提供方还可能随时修改、拒绝或下线访问;而并非每个任务都需要前沿级智能。 在六项工具调用与智能体基准上,BotPsy 在五项取得所测模型中的最高分,包括 BFCL v4 44.0、ACEBench 58.7、τ-bench 51.5、ToolSandbox 64.6 和 BrowseComp-Plus 4.5,均高于 2.5 倍参数量的 Qwen3.5-2B-Think 的 37.7、55.4、46.5、41.2 和 2.8;只有 Claw-Eval 上 Qwen3.5-2B-Think 以 48.9 对 46.5 领先。
训练分四步走:先模仿工具调用对话,再向三个专门教师模型学习,最后两轮强化学习按规则打分。 监督微调能提升工具使用,但会把通用知识和指令遵循压到基座模型之下,后续阶段要把这两项拉回来。 第一阶段对工具调用对话做全参数监督微调;第二阶段用同策略蒸馏,学生自己生成回答,三个各自经强化学习训练的 Qwen3.5-4B 教师按提示路由,以逐词元反向 KL 散度提供信号;第三、四阶段用 DAPO 强化学习,奖励由规则与验证器计算,工具调用奖励按工具名、参数名和参数值给出细粒度部分分。
启示与展望
该模型主要用英语训练和测试,推荐英语使用;在 Multi-IF 覆盖的另外七种语言中多数表现良好,但印地语和俄语明显偏低。它面向研究与教育用途,适合低到中等难度的任务,不适用于安全关键或高风险自动决策,也不适用于涉及金钱、个人信息、健康等敏感话题的应用。
开放域检索仍是弱项:BrowseComp-Plus 的 4.5 虽是五个模型中最高的,但绝对值很低,复杂信息检索场景只有 15 分。指令遵循随指令累积而下降,第三轮为 51.0,低于 Qwen3.5-2B-Think 的 56.5 和 LFM2.5-1.2B-Think 的 56.2;τ³-bench 银行子集上所有模型都低于 5 分。
