# Sakana Namazu

Sakana AI 与 Modal 合作，把约 1 万亿参数的混合专家模型 Sakana Namazu 以 NVFP4 精度部署到生产 API。压缩只作用于承载大部分参数的路由专家，注意力、路由器和共享专家保持 BF16，并用偏重日语的对话数据校准，使模型在日语指令遵循上与生产检查点相当。定制草稿模型在超过 300 亿原始 token 上训练，相比通用草稿模型把投机 token 接受率提高 25%；上线后用约 100 万条真实请求重训的第二版草稿模型，在 1000 条留出请求回放中把平均接受长度从 3.51 提到 5.01，p99 延迟从 68 秒降到 52 秒。

Sakana AI 与 Modal 合作，把约 1 万亿参数的混合专家模型 Sakana Namazu 以 NVFP4 精度部署到生产 API。压缩只作用于承载大部分参数的路由专家，注意力、路由器和共享专家保持 BF16，并用偏重日语的对话数据校准，使模型在日语指令遵循上与生产检查点相当。定制草稿模型在超过 300 亿原始 token 上训练，相比通用草稿模型把投机 token 接受率提高 25%；上线后用约 100 万条真实请求重训的第二版草稿模型，在 1000 条留出请求回放中把平均接受长度从 3.51 提到 5.01，p99 延迟从 68 秒降到 52 秒。