# 全局/局部混合注意力调度

Meta开源了Muse Spark Open的权重，这是一个816B参数、推理时激活42.7B的全模态混合专家模型，与Muse Code共同训练，面向编码智能体工作流。它用压缩MoE块和全局/局部混合注意力降低跨GPU通信与长会话的KV缓存占用，并支持100万token上下文和文本、图像、视频、音频输入。按Meta报告的基准分数，它在智能体编码与知识工作上与前沿实验室的模型相当，但各模型使用自家编码智能体测试，而非统一测试框架。

Meta开源了Muse Spark Open的权重，这是一个816B参数、推理时激活42.7B的全模态混合专家模型，与Muse Code共同训练，面向编码智能体工作流。它用压缩MoE块和全局/局部混合注意力降低跨GPU通信与长会话的KV缓存占用，并支持100万token上下文和文本、图像、视频、音频输入。按Meta报告的基准分数，它在智能体编码与知识工作上与前沿实验室的模型相当，但各模型使用自家编码智能体测试，而非统一测试框架。