跳到主要内容
返回时间线
Fireworks AI来源发表:

推理链和工具调用写进同一次输出:Qwen3-235B-A22B在Fireworks上按Apache-2.0开放

核心概要

开源大模型此前要在展示思维链和确定性地调用工具之间二选一。Qwen3-235B-A22B把推理块放进独立的 think 标签,并在同一次补全里给出精确的JSON工具调用,下游代码可以选择忽略或审计这段推理。该模型为2350亿参数、每次激活约220亿参数的混合专家结构,以Apache-2.0许可托管在Fireworks上,可通过兼容OpenAI的客户端调用。

Source-provided article image: qwen 3 thinking mode tool calling
Fireworks AI

深度剖析

开源模型现在可以在一次请求里同时输出推理过程和工具调用,推理块被单独隔离,下游代码可以按需忽略、审计或计量。 此前开源大模型只能在展示思维链和确定性地调用工具之间选一个。 Fireworks托管的Qwen3-235B-A22B在首次调用中同时返回思维链和工具调用,第二次调用不进入思考模式,只发出工具调用。

思考与否由调用参数切换,不需要换模型或换接口。 思考模式由 reasoning_effort 不为 none 触发,生成 think 标签包裹的推理块和最终答案,推荐 temperature 约0.6、top_p 约0.95、top_k 为20。 非思考模式由 reasoning_effort 设为 none 或使用 /no_think 标签触发,省略推理块以节省token和延迟,采样参数改为 temperature 约0.7、top_p 约0.8。

模型规模靠混合专家结构摊开,总参数2350亿,每次只激活八个专家、约220亿活跃参数。 该模型共128个专家,推理时只激活其中八个。 模型以Apache-2.0许可在Fireworks上以无服务器方式提供,可直接用官方OpenAI客户端指向该端点,其余调用方式不变。

启示与展望

已展示的范围是Fireworks托管的Qwen3-235B-A22B端点:思考模式与非思考模式的切换、同次输出推理块与工具调用,以及用官方OpenAI客户端接入。面向需要在智能体流程中控制推理开销并保留可审计推理记录的工程师。

材料未给出该模型在工具调用或推理任务上的量化评测,性能描述停留在“接近前沿质量”的定性说法。长回答场景建议至少预留4k输出token、书籍级生成最多32k,这一建议本身也说明输出长度需要调用方自行管理。