# MiniMax稀疏注意力

MiniMax 开源 MiniMax-M3.1-Flash，vLLM 在发布当天于 NVIDIA Blackwell、Rubin 与 AMD MI350 系列 GPU 上提供支持。该模型针对 NVFP4 KV 缓存做量化感知训练，路由专家权重也以 NVFP4 存储，检查点从 451.5 GB 降到 250.1 GB，每 token 的 KV 缓存从 61,440 字节降到 34,560 字节。在四块 NVIDIA B300、DEP4 部署、256K token 序列下，M3.1 可容纳 76 条并发序列，而使用 FP8 KV 缓存的 M3 为 28 条。

MiniMax 开源 MiniMax-M3.1-Flash，vLLM 在发布当天于 NVIDIA Blackwell、Rubin 与 AMD MI350 系列 GPU 上提供支持。该模型针对 NVFP4 KV 缓存做量化感知训练，路由专家权重也以 NVFP4 存储，检查点从 451.5 GB 降到 250.1 GB，每 token 的 KV 缓存从 61,440 字节降到 34,560 字节。在四块 NVIDIA B300、DEP4 部署、256K token 序列下，M3.1 可容纳 76 条并发序列，而使用 FP8 KV 缓存的 M3 为 28 条。