Vercel News来源发表:
Vercel防火墙把AI爬虫和AI助手分开管:可以拦下训练抓取,同时放行回答用户提问的检索
核心概要
Vercel Firewall 的 AI Bots 托管规则集现在允许站点把 AI 爬虫与 AI 助手分开记录或拦截。此前这两类自动访问只能作为同一类机器人流量处理,站点无法只拒绝为索引和模型训练收集内容的抓取,而保留响应用户操作或搜索查询的页面获取。规则集随新机器人加入而更新,并可在所有套餐上使用。
深度剖析
站点运营者现在可以对两类自动访问分别设定动作:为索引和模型训练收集内容的 AI 爬虫,以及响应用户操作或搜索查询去取页面的 AI 助手。 此前这两类请求没有被拆成两个可分别处置的类别,站点只能把它们当作同一类机器人流量来记录或拦截。 Vercel 给出的示例配置是拦截 AI 爬虫、同时允许 AI 助手取回内容以回答用户问题,两类动作在同一个 AI Bots 规则集内分别设定。
控制入口在项目的 Security > Firewall > Rules 下,Bot Management 中启用 AI Bots 后,分别为 AI 爬虫和 AI 助手选择动作,再审核并发布。 同一套设置也可以通过 Vercel CLI 修改,用 firewall rules edit 指定 ai-bots 规则集和 ai-crawlers 或 ai-assistants 类别并给出动作。 命令行流程是先改规则,再用 vercel firewall diff 查看改动,最后用 vercel firewall publish 应用;该规则集在所有套餐上可用。
启示与展望
这一能力面向在 Vercel 上部署项目的站点运营者,通过防火墙规则界面或 Vercel CLI 配置,规则集在所有套餐上可用。
Vercel 说明规则集会随新机器人加入而更新,但没有列出当前覆盖哪些具体机器人,也没有给出分类判断的准确率或误判情况。
