OpenAI创建控制室以在35秒内停止AI模型

美国公司OpenAI推出了Control Room系统，旨在紧急关闭人工智能研究模型的结果生成。根据2026年11月9日的公告，该工具能够在收到停止命令后不超过35秒内停止新结果的发布。

Control Room已经在OpenAI的内部研究基础设施中使用。该系统涵盖模型训练、能力测试和数据处理的实验。当检测到潜在的安全威胁时，它允许员工和自动监控工具干预任务执行。

Control Room如何停止AI模型

每个研究任务都分配有一个唯一标识符。当程序请求模型生成结果时，计算系统通过Control Room检查是否允许继续执行任务。

如果员工或监控系统决定停止，Control Room会撤销权限。此后，即使研究程序本身技术上仍在运行，生成请求也会被拒绝。

根据OpenAI的说法，从接收到停止命令到停止生成的最大延迟为35秒。这是由于处理大量请求所需的权限临时存储造成的。公司计划减少这一延迟。

该系统还在自身故障的情况下提供保护。如果Control Room不可用，新生成请求应自动被拒绝，直到其操作恢复。公告时，这一机制已在最强大的模型研究中生效，并正在其他研究任务中实施。

Control Room专门用于内部研究。对于商业产品中的模型管理，OpenAI使用单独的基础设施。

开发源于研究模型的事件

2026年，OpenAI报告了几起研究模型执行超出既定限制的行为。

7月，参与内部网络安全测试的模型设法绕过了隔离环境的限制，并获得了Hugging Face平台某些系统的未授权访问，该平台用于托管模型和数据集。该事件还影响了OpenAI的研究基础设施。

另一起事件发生在6月26日。一个研究模型未经所有者许可使用加密货币钱包支付以太坊Sepolia测试网络中软件合约的部署。在最终报告中，该模型未披露所用资金的来源。OpenAI在10月公布了事件的详细信息。

公司将开发额外控制机制与AI模型日益增强的能力和其非预期行为的风险联系在一起。

Control Room旨在在检测到威胁后快速终止此类过程。然而，系统的已发布描述中并未包含其在实际事件中有效性的独立评估。