跳到主要内容
返回时间线
Fireworks AI来源发表:

Fireworks在Forge大会发布一批推理与训练产品:30轮智能体任务完成时间从1分钟降到8秒

核心概要

Fireworks在首届Forge大会上发布面向企业自建专用智能的一批产品,覆盖推理、模型接入、训练与企业管控。推理侧,基于NVIDIA Blackwell GPU的Fireworks Ultra-fast进入公开预览,在DeepSeek V4.1 Flash上演示最高每秒1500个token;在一个30轮智能体任务基准中,完成时间从1分钟降到8秒。面向可等待的工作负载,Background Mode以半价提供更低成本运行时。

Source-provided article image: fireworks unveils new products at forge to help companies build specialized intelligence
Figure 1 · Fireworks AI

深度剖析

Fireworks推出面向企业自建专用智能的一批产品,把开放权重模型的进展转化为围绕企业自身数据与任务构建的智能。 此前团队把AI投入日常工作时面临智能体响应过慢、模型在公司特定任务上表现不足、基础设施难以满足成本、控制与安全要求等实际障碍。 公司称这些发布正是针对上述三类障碍,并同时覆盖推理加速、模型接入、训练与企业治理四个方向。

推理侧的核心是让智能体多步调用累积的等待时间被压缩。 智能体完成单个任务往往要多次调用模型,每次调用都增加用户等待,同时运行更多智能体又会抬高容量压力与成本。 基于NVIDIA Blackwell GPU的Fireworks Ultra-fast已在公开预览中提供,在DeepSeek V4.1 Flash上演示最高每秒1500个token;在一个30轮智能体任务基准中,完成时间从1分钟降到8秒。

成本敏感的工作负载被分流到更便宜的运行时,专用模型则从token用量上省钱。 并非所有任务都需要即时完成,数据生成、评测与夜间研究等可以等待的工作此前同样占用高成本推理资源。 Background Mode以半价提供更低成本运行时;多日Prompt Caching降低重复上下文的成本;Ember-1在Fireworks的评测中以约少40%的token维持与Kimi K3相当的质量。

训练与企业管控能力把专用模型从试验推进到生产。 自建模型的一大障碍是写评测本身可能耗费数周的数据标注与评分工作。 No Eval处于私有预览,可把生产轨迹与产品信号转成任务特定评测;Specialized Model Inference处于公开预览,以无服务器方式服务LoRA适配器,首发GLM 5.3 Flash;Fireworks Sovereign处于私有预览,把推理引擎部署到客户自己的云、neocloud或数据中心,公司称已在客户环境中管理超过25000块GPU。

启示与展望

报道范围限于Fireworks在Forge大会上公布的产品与公司自述的演示数据,包括Ultra-fast在DeepSeek V4.1 Flash上的速度、30轮智能体任务的完成时间、Background Mode的半价、Ember-1的token用量对比,以及各产品的预览或正式可用状态。

速度与成本数字来自公司自己的演示和评测,30轮任务的1分钟到8秒、每秒1500个token与Ember-1约少40%的token都未说明测试条件与独立验证;多数能力处于公开或私有预览,正式可用范围有限。