# colibri 本地大模型推理引擎

JustVugg 发布开源推理引擎 colibri，用纯 C 写成、每个模型家族一个文件，不需要 GPU。混合专家模型每个 token 只调用自身一小部分，colibri 把这一小部分常驻内存，其余专家留在磁盘上按需读取。官方示例中 GLM-5.2 这一 744B 参数、int4 量化的 MoE 模型在 CPU 上 32 秒就绪、常驻 9.9 GB；最低配置为 8 GB 内存，最小模型需 22 GB 磁盘。

JustVugg 发布开源推理引擎 colibri，用纯 C 写成、每个模型家族一个文件，不需要 GPU。混合专家模型每个 token 只调用自身一小部分，colibri 把这一小部分常驻内存，其余专家留在磁盘上按需读取。官方示例中 GLM-5.2 这一 744B 参数、int4 量化的 MoE 模型在 CPU 上 32 秒就绪、常驻 9.9 GB；最低配置为 8 GB 内存，最小模型需 22 GB 磁盘。