语音智能体不必在快与准之间二选一:PhoneLLM Mini 上 Workers AI,关掉推理模式也能跟指令、调工具
Daily 旗下 Pipecat 团队的 PhoneLLM Mini 模型现已上线 Cloudflare Workers AI,面向语音智能体等实时应用。语音智能体里语言模型夹在语音转文字与文字转语音之间,模型每慢一秒都会拉长来电者的等待;开发者此前通常要么选不带推理模式的快模型,可能漏掉指令或工具调用,要么选带推理模式的慢模型。Pipecat 在电话与客服场景上对 NVIDIA Nemotron 3 Nano 30B 做了后训练,使 PhoneLLM 在不开启推理模式的情况下更好地遵循指令并调用工具。