跳到主要内容
返回时间线
OpenAI News来源发表:

OpenAI上线Control Room:研究推理作业被叫停后,模型输出最多35秒内停止

核心概要

OpenAI 在其研究基础设施上部署了 Control Room,一个集中追踪模型推理作业并在安全或安全担忧出现时快速叫停的系统。它覆盖智能体采样、模型训练与评估、数据处理等研究推理作业,与失准监测系统联动,从收到停止指令到模型输出不再产生最长 35 秒,这一延迟来自推理授权的缓存层。系统把终止机制放在推理层而非作业代码里,并在自身服务失效时拒绝所有推理请求。

AI-generated editorial illustration: Control Room: A central system to track and stop model workloads across our research infrastructure

深度剖析

OpenAI 的研究基础设施现在有一个集中系统 Control Room,用来追踪每一个研究推理作业,并在安全或安全担忧出现时把它们停下来。 此前,研究作业由研究人员或团队各自拥有和运行,作业代码经常变动,因此不适合承载关键的安全保护;Control Room 把终止机制改放到推理层。 Control Room 已部署在研究基础设施中需求最强的地方,外部模型服务栈本身更集中,已有快速下线模型部署的运维能力。

作业启动时向 Control Room 申请 job_id,每次采样 token 时推理引擎都先向 Control Room 询问该作业是否仍被授权,被停止的作业会收到拒绝而不是模型输出。 授权检查由推理引擎发起,而不是依赖作业代码自己检查是否仍在运行。 OpenAI 研究范围内在用的推理代码路径数量很少、部署集中且统一,因此推理层可以作为瓶颈,让每次推理请求都经过 Control Room 授权检查。

系统采用失效即关闭的设计:Control Room 服务因系统错误、被停用或遭恶意篡改而下线时,所有推理请求都会被拒绝,直到服务恢复正常。 这一失效即关闭策略现已覆盖全部前沿模型研究作业,并将在接下来几天内完成对其余研究作业的推广。 OpenAI 还运行持续的智能体和程序化扫描,检查用户是否意外或恶意启动了未实现或禁用 Control Room 的引擎实现。

启示与展望

已演示的范围是 OpenAI 自身研究基础设施中的推理作业,包括智能体采样、训练与评估、数据处理;外部模型服务栈不在这一系统的覆盖描述之内。

从收到停止指令到输出不再产生的最长时间为 35 秒,这一延迟来自推理授权的缓存层,OpenAI 表示正努力把它降到零;失效即关闭尚未覆盖全部研究作业,其余作业将在接下来几天内完成推广。