# 量化感知训练

Fireworks 把量化感知微调接入 FireOptimizer，让 DeepSeek R1 与 V3 这类原生按 FP8 服务的开源模型可以按具体用例定制。此前用 LoRA 微调后合并权重再以 FP8 部署会明显掉精度，而 6710 亿参数的基座在 FP8 下已占 671 GB 显存，超过 H100 主机常见的 640 GB。做法是在前向传播中对合并权重和激活做“伪量化”，让 LoRA 梯度保持 bfloat16、合并权重按 FP8 数值走；在 1.5 万条训练、5000 条评估的法国葡萄酒评论分类任务上，QAT 微调优于朴素 FP8 LoRA 微调。

Fireworks 把量化感知微调接入 FireOptimizer，让 DeepSeek R1 与 V3 这类原生按 FP8 服务的开源模型可以按具体用例定制。此前用 LoRA 微调后合并权重再以 FP8 部署会明显掉精度，而 6710 亿参数的基座在 FP8 下已占 671 GB 显存，超过 H100 主机常见的 640 GB。做法是在前向传播中对合并权重和激活做“伪量化”，让 LoRA 梯度保持 bfloat16、合并权重按 FP8 数值走；在 1.5 万条训练、5000 条评估的法国葡萄酒评论分类任务上，QAT 微调优于朴素 FP8 LoRA 微调。

英伟达推出 RTX Spark 笔记本与紧凑台式机，把本地编码智能体的推理、测试与部署放到一台机器上。此前开发者要在笔记本、云端模型接口和云虚拟机之间来回切换。该机搭载 GB10 系统级芯片与最高 128GB 统一内存，英伟达称对比英特尔 Panther Lake 12Xe，编码智能体性能为 4.6 倍、微调 2.7 倍、代码编译 1.8 倍。

英伟达推出 RTX Spark 笔记本与紧凑台式机，把本地编码智能体的推理、测试与部署放到一台机器上。此前开发者要在笔记本、云端模型接口和云虚拟机之间来回切换。该机搭载 GB10 系统级芯片与最高 128GB 统一内存，英伟达称对比英特尔 Panther Lake 12Xe，编码智能体性能为 4.6 倍、微调 2.7 倍、代码编译 1.8 倍。