# DSpark草稿模型

vLLM 在发布当天为 Mistral Large 4 提供推理支持，这是一款 1 万亿参数、每 token 激活 490 亿的稀疏混合专家多模态模型。支持工作包括可断 CUDA 图、手写融合、解码与预填充上下文并行、DSpark 投机解码、NIXL 分离式服务以及主机内存 KV 卸载。在 TP8 上，NVFP4 每 token 解码比 FP8 快 1.08–1.19 倍，并持有约 1.5 倍 KV 缓存，而多模态、长上下文等评测与 FP8 的差距不超过 2.1 分。

vLLM 在发布当天为 Mistral Large 4 提供推理支持，这是一款 1 万亿参数、每 token 激活 490 亿的稀疏混合专家多模态模型。支持工作包括可断 CUDA 图、手写融合、解码与预填充上下文并行、DSpark 投机解码、NIXL 分离式服务以及主机内存 KV 卸载。在 TP8 上，NVFP4 每 token 解码比 FP8 快 1.08–1.19 倍，并持有约 1.5 倍 KV 缓存，而多模态、长上下文等评测与 FP8 的差距不超过 2.1 分。