跳到主要内容
返回时间线
Ollama来源发表:

决策模型不再逐字生成:Clef一次读完输入,给每个问题同时打分并附概率

核心概要

Cloudflare 的 27B 多模态决策模型 Clef 已上线 Ollama,可在本地或云端运行。它把状态和一组带类型的提问作为输入,一次读完文本、JSON 或图像,同时给每个问题的每个答案打分,而不是逐词生成回复。在 Cloudflare 公布的 Jev Decision Index 评测中,Clef 在多数基准上高于 Jev,但 When2Call 与 BRIGHT 两项低于 Jev。

Source-provided article image: Clef is available on Ollama's cloud
Ollama

深度剖析

决策任务有了一个专门的模型入口:输入一段状态和一张带类型问题的模式表,输出的是决策本身以及每个候选答案的概率,而不是一段自由文本。 此前的做法是让通用模型逐词写出回复,再由外部逻辑解析成决策;Clef 把这一步改成对每个问题直接打分。 在 Cloudflare 公布的 Jev Decision Index 评测上,Clef 的 BFCL case exact 为 98.47、API-Bank 准确率为 91.93,Jev 对应为 95.75 和 88.19;When2Call 上 Clef 为 72.37,低于 Jev 的 80.97。

模型可以处理文本、JSON 和图像三类输入,截图、收据、表单和照片都在其覆盖范围内。 多模态输入与结构化决策被放在同一个模型里,而不是先由一个模型读图、再由另一个模块做判断。 Clef 由 Qwen3.8-27B 微调而来,以 Apache 2.0 许可发布,并兼容 Jev 与 System One 两套 API。

同一套打分方式可以落到路由、条件判断、策略执行、文档字段读取和智能体工具调用审核等具体场景。 这些场景此前通常各自需要一套规则或一个分类器。 在 Typesafe 自己的工作流评测上,Clef 在发票处理、客服、安全事件、智能体轨迹可观测性四项中的三项高于 Jev,智能体轨迹可观测性一项为 68.5,低于 Jev 的 71.6。

启示与展望

报道覆盖的是 Clef 在 Ollama 上线这一发布事件,以及 Cloudflare 公布的基准与工作流评测结果。适用读者是需要把请求路由、条件判断、策略执行、文档字段读取或智能体工具调用审核做成带概率决策的工程师。模型支持文本、JSON 与图像输入,可在本地或 Ollama 云端运行,并以 Apache 2.0 许可发布。

Clef 并非在所有评测上领先:When2Call 准确率 72.37 低于 Jev 的 80.97,BRIGHT nDCG@10 为 45.91 低于 Jev 的 47.52,PhishNChips 准确率 79.60 低于 DiffusionGemma Jev 的 85.35。Typesafe 工作流评测中智能体轨迹可观测性一项也低于 Jev。延迟方面 Clef 中位 209.3 毫秒,高于 Clef-flash 的 38.8 毫秒。