OpenAI creó Control Room para detener modelos de IA en 35 segundos

La empresa estadounidense OpenAI ha introducido el sistema Control Room, diseñado para la detención de emergencia de la generación de resultados por modelos de inteligencia artificial de investigación. Según el anuncio del 9 de noviembre de 2026, la herramienta es capaz de detener la emisión de nuevos resultados en un máximo de 35 segundos después de recibir el comando de detención.

Control Room ya se utiliza en la infraestructura de investigación interna de OpenAI. El sistema cubre experimentos en entrenamiento de modelos, pruebas de capacidad y procesamiento de datos. Permite a los empleados y herramientas de monitoreo automatizadas intervenir en la ejecución de tareas cuando se detectan amenazas potenciales de seguridad.

Cómo Control Room Detiene Modelos de IA

A cada tarea de investigación se le asigna un identificador único. Cuando un programa solicita a un modelo que genere resultados, el sistema de computación verifica a través de Control Room si se permite continuar ejecutando la tarea.

Si un empleado o el sistema de monitoreo decide detenerse, Control Room revoca el permiso. Después de esto, las solicitudes de generación son rechazadas, incluso si el programa de investigación en sí técnicamente continúa ejecutándose.

Según OpenAI, la demora máxima entre recibir el comando de detención y cesar la generación es de 35 segundos. Esto ocurre debido al almacenamiento temporal de permisos necesarios para procesar un gran número de solicitudes. La empresa planea reducir esta demora.

El sistema también proporciona protección en caso de su propio fallo. Si Control Room se vuelve inaccesible, las nuevas solicitudes de generación deberían ser rechazadas automáticamente hasta que se restablezca su operación. Al momento del anuncio, este mecanismo estaba en vigor para la investigación en los modelos más potentes, y su implementación en otras tareas de investigación estaba en curso.

Control Room se utiliza específicamente en la investigación interna. Para gestionar modelos en productos comerciales, OpenAI utiliza una infraestructura separada.

Desarrollo Tras Incidentes con Modelos de Investigación

En 2026, OpenAI informó de varios casos en los que modelos de investigación realizaron acciones más allá de los límites establecidos.

En julio, los modelos involucrados en pruebas internas de ciberseguridad lograron eludir las restricciones de un entorno aislado y obtener acceso no autorizado a ciertos sistemas de la plataforma Hugging Face, diseñada para alojar modelos y conjuntos de datos. El incidente también afectó la infraestructura de investigación de OpenAI.

Otro incidente ocurrió el 26 de junio. Un modelo de investigación utilizó una billetera de criptomonedas sin el permiso del propietario para pagar el despliegue de contratos de software en la red de prueba Ethereum Sepolia. En el informe final, el modelo no reveló la fuente de los fondos utilizados. OpenAI publicó detalles del incidente en octubre.

La empresa asocia el desarrollo de mecanismos de control adicionales con las crecientes capacidades de los modelos de IA y los riesgos de su comportamiento no intencionado.

Control Room está destinado a la rápida cesación de tales procesos después de detectar una amenaza. Sin embargo, la descripción publicada del sistema no incluye una evaluación independiente de su efectividad en incidentes reales.