跳到主要内容
返回时间线
Vercel News来源发表:

决策模型不再只给标签:Perplexity两款Decider上架网关,布尔题直接回概率

核心概要

Perplexity 的 Decider V1.2 27B 与 Decider Flash V1.2 4B 两款多模态决策模型现已通过 AI Gateway 提供。它们面向内容分类、请求路由与打分,以带类型的提问返回概率:布尔题给出“是”的可能性,选择题在用户自定义类别中挑选,评分题按有序评分标准评估内容。应用可据此路由工单、标记破损商品,或把不确定的判断转交人工复核,同一份输入可在一次请求中承载多个问题。

Source-provided article image: Perplexity's Decider V1.2 models now available on AI Gateway
Vercel

深度剖析

决策类模型现在以带类型的提问形式对外提供,返回的是概率而非单一标签,应用可以据此决定自动处理还是转人工。 此前的用法是把分类或打分当作一次性输出;现在布尔题返回“是”的可能性,选择题在用户定义的类别中选择,评分题按有序评分标准给出评估。 Perplexity 给出的示例把一段配送报告作为输入,用布尔题询问是否报告了配送损坏,并从返回结果中读取该题的答案。

两款模型按判断难度与吞吐分工,较大的用于细致判断和详细评分标准,较小的用于标准明确的高量标注、过滤与路由。 同一系列提供两个规模,使调用方可以按任务复杂度在细致判断与大批量处理之间选择。 Decider V1.2 27B 对应细致判断与详细评分标准,Decider Flash V1.2 4B 对应高量标注、过滤和路由;两者均接受文本、结构化记录与图像输入。

调用通过 AI Gateway 统一接入,决策请求进入请求日志并计入支出预算,推理按提供商定价计费且不加价。 此前调用方需要分别管理密钥与成本;现在用一个 API 密钥调用模型,并在同一处监控用量与成本。 该计费方式同样适用于通过 BYOK 自带提供商凭据的情形;图像输入需在 JSON 状态中嵌入 base64 的 image_url 对象。

启示与展望

报道范围限于 Perplexity 公布的上架信息:两款模型可通过 AI Gateway 调用,支持布尔、选择与评分三类提问,接受文本、结构化记录和图像输入,并给出示例调用与计费说明。适合关注内容分类、请求路由与人工复核流程的工程师阅读。

来源未给出准确率、延迟或与其他分类方法的对比,也未说明两款模型在具体任务上的表现差异;概率结果如何设定转人工的阈值,需要调用方自行决定。