Meta开源816B编码模型Muse Spark Open:1M上下文装下整个项目,稀疏路由每次只激活42B
核心概要
Meta发布面向智能体编码工作流的开源混合专家模型Muse Spark Open,总参数816B、每token激活42B,上下文窗口达1M token,可容纳包含复杂依赖与遗留代码的整个项目。此前的通用编码模型面向生成单个函数或单元测试这类上下文小、答案即时的单次补全任务,而多文件重构、跨数千文件导航、失败测试恢复与子智能体协调需要持续多步执行。该模型在NVIDIA GB300 NVL72上训练,支持工具调用、输出评估与迭代修正,并以目标条件保持方向、以上下文压缩维持长会话进展。
