816B开源多模态模型发布当天就能跑:SGLang与Miles把推理和强化学习后端一起接上
核心概要
Meta 发布开源权重多模态混合专家模型 Muse Spark Open,SGLang 与 Miles 在发布当天为其接上推理与强化学习训练后端。该模型文本主干 816B 参数、每 token 约 42B 激活,支持文本、图像、视频、音频输入和 1M token 上下文。在 8 块 B300 上以 NVFP4 权重跑 OpenHands 多轮智能体编码回放,并发 128 时每 GPU 总吞吐 80.3K token/s、每用户 61 token/s。
