Fireworks把欧洲算力扩到Vera Rubin与Grace Blackwell:2027年起承接企业智能体推理
核心概要
Fireworks宣布扩大与NVIDIA的合作,在欧洲部署基于NVIDIA Vera Rubin与Grace Blackwell平台的算力,并计划使用NVIDIA DSX AI工厂平台和Spectrum-X以太网,新增算力从2027年起支持欧洲部署。公司同时公布面向企业推理负载的能力:在NVIDIA Blackwell平台上公开预览的Ultrafast推理,推理速度超过每秒1500个token;面向长时间运行智能体的多日提示缓存与后台模式;以及更高的速率上限和亚分钟级冷启动。这些能力针对的是智能体单次任务中反复调用模型、共享大量上下文所带来的延迟与成本。
深度剖析
Fireworks将扩大其在欧洲的算力,采用NVIDIA Vera Rubin与Grace Blackwell平台,并计划借助NVIDIA DSX AI工厂平台和NVIDIA Spectrum-X以太网提升每瓦性能与吞吐。 这一扩容建立在Fireworks与NVIDIA此前针对企业负载优化推理的合作之上,把加速计算与运行专用智能所需的软件和模型能力连接起来。 公司给出的时间安排是,这套NVIDIA加速计算设施从2027年起支持欧洲各地的部署,用于承接企业对开放模型和专用模型日益增长的区域需求。
面向企业推理,Fireworks把能力分成两类:需要即时响应的交互式应用,以及需要长时间持续工作的智能体。 智能体的单个任务可能包含反复的模型调用和大量共享上下文,每次响应的速度、上下文能否复用以及容量是否足够,都会影响应用性能与经济性。 Fireworks Ultrafast在NVIDIA Blackwell平台上公开预览,结合更快的模型计算与GPU间高效通信,推理速度超过每秒1500个token;多日提示缓存降低重复调用中复用共享上下文的成本,后台模式降低无需即时响应工作的推理成本,更高的速率上限与亚分钟级冷启动则用于扩展交互式应用和后台智能体负载。
启示与展望
报道范围限于Fireworks在Forge用户大会上公布的合作扩容与推理能力,欧洲部署计划从2027年开始,Ultrafast处于公开预览阶段。
公告未给出欧洲新增算力的具体规模、Ultrafast超过每秒1500个token所对应的模型与输入条件,也未说明多日提示缓存和后台模式的成本降幅。
