跳到主要内容
返回时间线
OpenRouter Blog来源发表:

微调模型不再另开一套接口:OpenRouter私有端点让团队自有部署沿用同一个模型slug

核心概要

OpenRouter推出Private Endpoints,让企业把微调模型、专属部署或预留容量注册成仅本组织可见的私有端点,继续用现有的API、模型slug和路由偏好调用。此前这类部署意味着在OpenRouter之外再维护一套集成;现在注册后本组织流量默认优先走该端点,遇到限流或不可用时可按既有偏好回落到公共提供商。端点须由支持BYOK的提供商托管、且服务目录中已有模型,激活前会先发一条真实请求验证密钥、流式输出、用量回传与模型ID。

Source-provided article image: Private Endpoints: Bring Your Fine-Tuned Models and Capacity to OpenRouter
OpenRouter

深度剖析

企业自有的微调模型和预留容量现在可以并入团队已经在用的那一个API,调用方式不变。 此前微调模型和预留容量意味着要在OpenRouter旁边再搭一套集成。 注册为私有端点后,应用继续调用同一个模型slug,本组织内该端点默认排在提供商列表前面,Model Fallbacks与Provider Selection等路由照常工作。

私有端点只对获批的组织可见,不会出现在公开模型列表、排名、搜索、图表或基准里。 公共目录中的模型对所有用户可见,而团队自有部署此前不在OpenRouter的调用范围内。 以Azure上专属部署的DeepSeek V4 Pro为例,注册为deepseek/deepseek-v4-pro的私有端点后,OpenRouter用你的Azure密钥经BYOK访问,由Azure直接向你计费。

端点从注册到激活要走一遍真实请求的连通性检查,未通过前保持隐藏且不可调用。 此前把自有部署接入统一API需要自行确认密钥、协议与计费链路是否打通。 OpenRouter用某个工作区保存的提供商密钥发一条真实请求,验证密钥被接受、部署兼容OpenAI格式、流式输出可用、用量可回传计费、模型ID与注册一致,通过后才激活。

端点生命周期可以完全用代码管理,不必依赖设置页面。 此前配置自有部署通常要在控制台里手工操作。 Private Endpoints API覆盖注册草稿、运行测试、激活、更新定价、暂停和删除,用组织级Management API密钥认证,一次create调用即可完成注册、测试与激活;Terraform provider以openrouter_private_endpoint资源封装同一流程。

启示与展望

该能力面向Enterprise计划的组织,作为附加项由账户代表开通,组织管理员随后在Private Endpoints页面或通过Management API注册端点。适用前提是部署由支持BYOK的提供商托管,且所服务的模型已在OpenRouter目录中,因为端点继承该模型的slug与能力。默认每个组织最多10个私有端点,仍在配置中的端点也计入该上限。

把端点标记为私有并不等于零数据保留,提示词仍由原提供商按其原有方式处理,OpenRouter只记录注册时声明的数据策略。调用端点的工作区需各自在BYOK下保存提供商密钥,配置阶段的测试请求同样依赖该密钥。In-Region Routing仅在OpenRouter能从地址推断区域或你在配置时声明区域时可用。