Reflection AI 的 Beam 免费上线 AI Gateway:501B 参数每次只激活 23B,主打低延迟推理
核心概要
Reflection AI 的 Beam 推理模型结束隐身测试,以 stealth/cat-jam 之外的正式名称接入 AI Gateway,并在发布期内免费提供。它面向编程与智能体任务,权重以 Apache 2.0 发布,支持工具调用与结构化输出,上下文窗口为 100 万 token。模型总参数 501B,但每个 token 只激活 23B,并跳过任务不需要的 token,因此比更大的开放模型更早给出答案。
深度剖析
一个此前以隐身代号 stealth/cat-jam 在 AI Gateway 上测试的推理模型,现在以 Reflection AI 的 Beam 这一正式名称对外开放,发布期内由 Reflection AI 提供服务时免费。 此前该模型只能以隐身代号使用,没有正式名称下的公开入口。 免费访问有两条路径:标准模型名 reflection/beam 在免费期结束后自动转入按价计费且不中断服务,带 -free 后缀的 reflection/beam-free 则在免费期结束时停止服务。
Beam 面向编程和智能体任务,支持工具调用与结构化输出,上下文窗口为 100 万 token,可容纳代码、文档和对话历史。 推理强度可以调节,使用者能按任务需要选择投入多少推理。 模型权重以 Apache 2.0 许可发布,属于美国开放权重模型。
速度来自稀疏激活:模型总参数为 501B,每个 token 只激活其中 23B,并跳过任务不需要的 token。 更大的开放模型通常需要更多参数参与每个 token 的计算。 按 Reflection AI 的描述,这一设计使 Beam 往往比更大的开放模型更早得到答案。
启示与展望
报道范围限于 Reflection AI 公布的上线信息:Beam 以 reflection/beam 和 reflection/beam-free 两个名称在 AI Gateway 免费提供,前者在免费期结束后自动转为按价计费,后者届时停止服务。模型定位为面向编程与智能体任务的美国开放权重推理模型,权重采用 Apache 2.0,支持工具调用、结构化输出和可调推理强度,上下文窗口为 100 万 token。接入方式包括 Vercel AI SDK 的 streamText 调用,以及通过 Vercel CLI 的 ai-gateway setup 在 Claude Code、Codex、Cursor 等智能体中选择该模型。
速度上的说法以“往往比更大的开放模型更早得到答案”这一表述给出,没有附带对比模型、任务或测量方式。免费期长度未说明,只说明结束后标准名称转入计费、-free 名称停止服务。稀疏激活与跳过不需要 token 的具体机制未在材料中展开。
