Vercel News来源发表:
Vercel 的 Workflow SDK 改用 WebSocket 写事件与流:AI 智能体令牌流回传快 4.2 倍
核心概要
Vercel 的 Workflow SDK 从 5.2.0 版起,默认通过 WebSocket 向 Vercel Workflows 发送事件写入和流写入,取代此前每次写入或每组流写入各发一个 HTTP 请求的做法,升级后无需改动代码。在一项回放 AI 智能体令牌流的基准测试中,默认走 WebSocket 的 v5.2.0 比 v4.8.12 提前 4.2 倍交付完整响应,且没有任何分块延迟超过一秒。
深度剖析
Workflow SDK 向 Vercel Workflows 写入事件和流时改走 WebSocket,不再为每次写入单独发起 HTTP 请求。 此前每次事件写入、以及流写入的每个写入组,都要发一个 HTTP 请求。 在一项回放 AI 智能体令牌流的基准测试中,默认走 WebSocket 的 v5.2.0 比 v4.8.12 提前 4.2 倍交付完整响应,且没有分块延迟超过一秒。
升级到 workflow@5.2.0 或更高版本即可启用,现有流式代码无需改动。 一个写入成批分块的步骤,例如写 AI 令牌的步骤,会在 WebSocket 打开后把这些分块经它发出。 部署升级后新运行使用该方式,进行中的运行则在启动时的部署上跑完。
启示与展望
演示范围限于 Vercel Workflows 上的 Workflow SDK:升级到 workflow@5.2.0 或更高版本后,新运行默认走 WebSocket,进行中的运行在启动时的部署上跑完。
4.2 倍与“无分块延迟超过一秒”来自一项回放 AI 智能体令牌流的基准测试,材料未给出该测试的其他条件。
