Fireworks推出3D FireOptimizer：在超十万种组合中为LLM服务挑配置，同质量下换更低延迟
核心概要
Fireworks在其FireOptimizer调优栈中新增3D FireOptimizer，用来自动搜索模型架构、量化、推测解码、硬件与并行策略等配置组合。LLM服务需要在速度、吞吐成本与质量之间权衡，而各旋钮相互影响，可选组合超过十万种。该工具结合生产负载的性能扫描、启发式规则与预计算画像裁剪搜索空间，输入工作负载特征与SLA后给出少数几个候选配置；在整库智能体代码补全、代码改写和聊天机器人三个案例中，它给出的端点在与公开平台基线相同的质量下取得更好的QPS与延迟权衡。
深度剖析
Fireworks发布3D FireOptimizer，把LLM服务配置的挑选从人工试错变成按工作负载自动搜索，目标是在守住质量与延迟要求的同时压低成本。 此前用户需要在硬件、底层优化与模型家族的大量选项中自行摸索，而不同用例的提示长度、生成长度、提示重复度、输出可预测性和请求到达模式差异很大，没有一套通用配置。 三个案例把3D FireOptimizer生成的端点与仅通过公开平台可得的基线对比，在保持相同质量门槛下比较QPS与延迟曲线，覆盖Deepseek V3的整库智能体代码补全、Qwen Coder 2.5 14B的代码改写和Deepseek V3的聊天机器人。
搜索的对象是六个相互牵制的维度：模型架构与规模、并行策略、硬件类型、量化精度、推测解码策略，以及这些选择叠加后的组合效应。 单独拉动一个旋钮不够，因为改动一个会改变另一个该怎么设，例如量化释放出更多KV缓存空间后，并行或复制方式以及可运行的硬件都会随之变化。 Fireworks依据自身多种生产负载在不同硬件与设置上的性能扫描，积累启发式规则与预计算画像来裁剪搜索空间，再按用户负载特征与SLA输出少数几个最优配置。
启示与展望
演示范围限于Fireworks平台上的三个案例：Deepseek V3的整库智能体代码补全（12万输入、40万输出、缓存11.6万token）、Qwen Coder 2.5 14B的代码改写（2500提示token、1500生成token）和Deepseek V3的聊天机器人（5000输入、500输出、1500提示缓存），比较对象是仅通过公开平台可得的基线。
三个案例只以曲线形式呈现，未给出具体QPS或延迟数值，也未说明质量门槛如何度量；搜索依赖Fireworks自身的生产扫描与预计算画像，其他环境下的效果未在文中给出。