Mistral把1T参数的多模态模型开放权重:网络安全测试复现并修补漏洞得82%
核心概要
Mistral在Hugging Face发布Mistral Large 4(Le Chonk),这是一个约1T总参数、49B激活参数、上下文窗口1M token的多模态混合专家模型,以开放权重形式提供FP8与NVFP4两个官方版本。它把大专家池与稀疏注意力、Pixtral视觉编码器组合起来,语言模型为每个token只选少数专家,注意力索引器只选部分历史位置。在要求复现并修补开源软件真实漏洞的Artificial Analysis Cyber Index测试上,该模型得82%,Mistral称这是该测试已报告的最高分。
深度剖析
开放权重阵营多了一个约1T总参数的多模态混合专家模型,文本与图像都可作为输入,输出为文本,上下文窗口为1M token。 Mistral Large 4此前不在开放权重之列,如今以FP8和NVFP4两个官方变体发布,另有Unsloth与llama.cpp团队制作的GGUF量化版本,采用Mistral Ecosystem Open-Weight License,这是一种对模型即服务设限的MIT衍生许可。 截至2026年10月29日,该模型在Artificial Analysis Intelligence指数上位列开放权重模型第五;其组合编码智能体指数为49.8%,Mistral称这一成绩领先DeepSeek V4 Pro 0813与Qwen3.8 Max。
模型把两种稀疏性叠在一起:一种在每层的前馈网络中挑专家,另一种在注意力中挑历史位置。 文本解码器有72层、隐藏维度6144、64个注意力头;注意力块把多头部潜在注意力(MLA,把键值压成紧凑表示)与DeepSeek稀疏注意力索引器结合,后者为每个查询最多选2048个键位置。 第一层解码器使用稠密前馈网络,其余71层为混合专家块,softmax路由器为每个token从128个专家中选4个,另有一个共享专家始终参与,合计每个token激活5个专家;解码层按3:1的RoPE与NoPE交替,并在层间共享KV状态。
网络安全是这次发布重点强调的能力方向,模型被定位为防御性安全工作使用。 Mistral称若干闭源前沿模型在同一复现并修补漏洞的测试上接近零分,原因是它们拒绝尝试这类工作;而漏洞修复通常需要先复现漏洞。 在Artificial Analysis Cyber Index中,该模型复现并修补漏洞的得分为82%,Mistral称这是该指数内该测试已报告的最高分;它在取自安全竞赛的40道Cybench挑战中解出93%,在Lakera B3上的抗攻击成功率为93.3%。
启示与展望
报道范围限于Mistral Large 4的发布信息、架构描述、基准分数与推理部署支持;基准成绩由Mistral与Hugging Face公布,恶意软件分析、漏洞优先级排序与检测规则生成属于Mistral的内部测试描述。
Mistral称闭源前沿模型在同一漏洞复现测试上接近零分,原因是拒绝尝试,这一说法来自Mistral的陈述而非独立评测;恶意软件分析、漏洞优先级排序与检测规则生成的效果也仅来自内部测试。推理配置中,长上下文下吞吐明显下降,例如IQ2_XXS在800K上下文时预填降至129 tok/s、生成降至3 tok/s。
