MiniMax 开源 MiniMax-M3.1-Flash，vLLM 在发布当天于 NVIDIA Blackwell、Rubin 与 AMD MI350 系列 GPU 上提供支持。该模型针对 NVFP4 KV 缓存做量化感知训练，路由专家权重也以 NVFP4 存储，检查点从 451.5 GB 降到 250.1 GB，每 token 的 KV 缓存从 61,440 字节降到 34,560 字节。在四块 NVIDIA B300、DEP4 部署、256K token 序列下，M3.1 可容纳 76 条并发序列，而使用 FP8 KV 缓存的 M3 为 28 条。
MiniMax-M3.1-Flash 把推理效率作为架构层面的目标，而不只是部署侧的调优：KV 缓存和路由专家权重都改用 NVFP4 低精度格式存储。 上一代 MiniMax-M3 以 MXFP8 存储专家权重、以 FP8 保存 KV 缓存，因此检查点和每 token 的缓存占用都更大。 检查点从 451.5 GB（MiniMax-M3-MXFP8）缩小到 250.1 GB，缩小 44.6%；NVFP4 KV 缓存每 token 需 34,560 字节，FP8 为 61,440 字节，节省 43.75%。
在相同硬件上，更小的缓存直接换成更高的并发服务能力。 此前 FP8 KV 缓存的 M3 在同一配置下只能容纳 28 条序列。 在四块 NVIDIA B300 GPU、DEP4 部署、256K token 序列下，M3.1 容纳 76 条并发序列，约为 M3 的 2.7 倍。
vLLM 为 NVFP4 缓存重写了稀疏注意力的关键内核，使低精度格式在解码时真正跑得快。 KV 缓存是 NVFP4 而查询是 FP8，无法直接使用原生 NVFP4 张量核心指令，需要先把缓存反量化到 FP8 再做矩阵乘。 Blackwell 内核使用 CUDA 13.4 新增的 QMUL4 指令一次把四个 NVFP4 值缩放成四个 FP8 值，索引器 QK 解码内核最高快 1.7 倍，稀疏注意力解码内核快 1.3 倍。
发布当天即可在 veRL 上对 NVFP4 检查点做端到端强化学习，只训练 rank-32 LoRA 适配器。 训练器与推理引擎采用相同的量化方式，每步之后只同步适配器，而不是整份权重。 在 DAPO-Math-17K、16 块 GB300、200 步 GRPO 下，AIME-2024 准确率从 36.3% 升到 67.5%，训练奖励从 −0.06 升到 0.67。
报道覆盖的是 vLLM 在 NVIDIA Blackwell、Rubin 和 AMD MI350 系列 GPU 上对 MiniMax-M3.1-Flash 的首日支持，性能数字均来自文中给出的具体部署配置与基准设置。预构建镜像已提供，PyPI nightly wheel 需等代码评审并合入上游后才可用。
文中报告的加速比分别对应特定内核、特定 GPU 和特定上下文长度，例如索引器 DCP 的 3.3 倍是在 4× GB300、512K 上下文下测得。AMD 侧索引器 DCP 的 2.8 倍来自 4× MI355X 上 45 条 30K–210K token 的请求。强化学习结果只来自 DAPO-Math-17K 上的 200 步 GRPO 运行。
