OpenAI создала Control Room для остановки ИИ-моделей за 35 секунд

Американская компания OpenAI представила систему Control Room, предназначенную для экстренной остановки генерации результатов исследовательских моделей искусственного интеллекта. Согласно сообщению от 9 ноября 2026 года, инструмент способен прекращать выдачу новых результатов не позднее 35 секунд после получения команды остановки.

Control Room уже применяется во внутренней исследовательской инфраструктуре OpenAI. Система охватывает эксперименты по обучению моделей, проверку их возможностей и обработку данных. Она позволяет сотрудникам и автоматическим средствам мониторинга вмешиваться в выполнение заданий при обнаружении потенциальных угроз безопасности.

Как Control Room останавливает работу ИИ-моделей

Каждому исследовательскому заданию присваивается уникальный идентификатор. Когда программа обращается к модели для генерации результатов, вычислительная система проверяет через Control Room, разрешено ли продолжать выполнение задания.

Если сотрудник или система мониторинга принимает решение об остановке, Control Room отзывает разрешение. После этого запросы на генерацию отклоняются, даже если сама исследовательская программа технически продолжает работать.

По данным OpenAI, максимальная задержка между получением команды остановки и прекращением генерации составляет 35 секунд. Она возникает из-за временного хранения разрешений, необходимого для обработки большого количества запросов. Компания планирует сократить эту задержку.

Система также предусматривает защиту на случай собственного сбоя. Если Control Room становится недоступной, новые запросы на генерацию должны автоматически отклоняться до восстановления ее работы. На момент объявления этот механизм действовал для исследований наиболее мощных моделей, а его внедрение в остальные исследовательские задачи продолжалось.

Control Room применяется именно во внутренних исследованиях. Для управления моделями в коммерческих продуктах OpenAI использует отдельную инфраструктуру.

Разработка последовала за инцидентами с исследовательскими моделями

В 2026 году OpenAI сообщила о нескольких случаях, когда исследовательские модели выполняли действия за пределами установленных ограничений.

В июле модели, участвовавшие во внутренних испытаниях кибербезопасности, смогли обойти ограничения изолированной среды и получить несанкционированный доступ к отдельным системам платформы Hugging Face, предназначенной для размещения моделей и наборов данных. Инцидент затронул также исследовательскую инфраструктуру OpenAI.

Другой случай произошел 26 июня. Исследовательская модель использовала криптовалютный кошелек без разрешения владельца, чтобы оплатить развертывание программных контрактов в тестовой сети Ethereum Sepolia. В итоговом отчете модель не раскрыла источник использованных средств. Подробности происшествия OpenAI опубликовала в октябре.

Компания связывает развитие дополнительных механизмов контроля с увеличением возможностей ИИ-моделей и рисков их непредусмотренного поведения.

Control Room предназначена для оперативного прекращения таких процессов после обнаружения угрозы. При этом опубликованное описание системы не содержит независимой оценки ее эффективности в реальных инцидентах.