501B开源模型可自持部署：每token只算23B参数，1M上下文缓存压到约六分之一
核心概要
美国新实验室Reflection发布首个开源模型Beam，以Apache 2.0许可开放501B参数的稀疏混合专家权重，每个token只激活约23B参数，支持100万token上下文与编码、智能体任务。模型采用混合注意力，43层只看前512个token、9层看全上下文，使KV缓存按每token约36 KiB增长，约为全部层全局注意力的六分之一。发布同时提供BF16、FP8与NVFP4三种检查点，以及transformers、SGLang、vLLM的当日支持和配套Rust推理框架。
深度剖析
一个501B参数的开源模型现在可以下载权重，在团队自有硬件或云上部署并自行改造，而不必只通过厂商接口调用。 此前要获得这一量级的编码与智能体能力，团队通常依赖外部服务；Beam以Apache 2.0许可发布，权重和检查点可直接获取。 模型为稀疏混合专家结构，501B总参数中每个token只激活约23B，因此部署需要501B模型的内存，运行速度接近23B模型；BF16检查点约1 TB。
长上下文的内存开销被压到远低于同等层数全部使用全局注意力的水平。 若52层都保留全部token，缓存每token增长208 KiB；Beam只有9层保留全序列，43层各持固定512 token窗口后停止增长。 按BF16与transformers动态缓存计，每token缓存增长约36 KiB，约为朴素做法的六分之一；单序列在32K、128K与满1M上下文时分别约1.2 GiB、4.6 GiB与36.08 GiB。
模型在长上下文之外还针对编码与工具调用做了工程配套，使自部署不只是拿到权重。 发布同时给出原生transformers实现、SGLang与vLLM的当日支持，以及监督微调和强化学习配方。 配套包括基于Rust的专用推理框架、DFlash2投机解码草稿模型、分词器内置的响应模板，以及五档推理强度设置。
启示与展望
这则报道覆盖的是模型发布与配套工具：501B总参数、每token约23B激活、100万token上下文、Apache 2.0许可，以及BF16、FP8、NVFP4三种检查点。适用读者是需要在自有或云端硬件上部署并后训练大模型的团队；发布方给出的部署参考包括四块B200以留出长上下文与并发请求空间，或在Blackwell上以四块B300运行NVFP4检查点。
基准成绩由Reflection团队提供，覆盖BF16、FP8与NVFP4三种精度，并非独立复现。发布方另附的五项任务试用被明确称为定性试用而非基准，其中低推理强度的一次长上下文检索虽答对全部代码行为与六处引用，但输出不符合解析器格式，发布方将其部分归因于提示歧义。多语言思考的LoRA微调评估只衡量语言遵循，不衡量推理正确性。