OpenAI는 35초 만에 AI 모델을 중단할 수 있는 Control Room을 만들었습니다

미국 회사 OpenAI는 인공지능 연구 모델의 결과 생성을 긴급 중단하기 위한 Control Room 시스템을 도입했습니다. 2026년 11월 9일 발표에 따르면, 이 도구는 중지 명령을 받은 후 최대 35초 이내에 새로운 결과의 발행을 중단할 수 있습니다.

Control Room은 이미 OpenAI의 내부 연구 인프라에서 사용되고 있습니다. 이 시스템은 모델 훈련, 기능 테스트 및 데이터 처리에 대한 실험을 포괄합니다. 잠재적인 보안 위협이 감지될 때 직원과 자동 모니터링 도구가 작업 실행에 개입할 수 있도록 합니다.

Control Room이 AI 모델을 중단하는 방법

각 연구 작업에는 고유한 식별자가 할당됩니다. 프로그램이 모델에 결과 생성을 요청할 때, 컴퓨팅 시스템은 Control Room을 통해 작업 실행을 계속할 수 있는지 확인합니다.

직원이나 모니터링 시스템이 중단을 결정하면 Control Room은 허가를 취소합니다. 이후 연구 프로그램 자체가 기술적으로 계속 실행되더라도 생성 요청은 거부됩니다.

OpenAI에 따르면, 중지 명령을 받은 후 생성이 중단되기까지의 최대 지연 시간은 35초입니다. 이는 많은 요청을 처리하기 위해 필요한 권한의 임시 저장으로 인해 발생합니다. 회사는 이 지연 시간을 줄일 계획입니다.

시스템은 자체 장애 시에도 보호 기능을 제공합니다. Control Room이 사용 불가능해지면, 새로운 생성 요청은 그 작동이 복구될 때까지 자동으로 거부되어야 합니다. 발표 시점에 이 메커니즘은 가장 강력한 모델에 대한 연구에 적용되고 있었으며, 다른 연구 작업에의 구현이 진행 중이었습니다.

Control Room은 내부 연구에만 특별히 사용됩니다. 상업 제품의 모델 관리를 위해 OpenAI는 별도의 인프라를 사용합니다.

연구 모델 관련 사건 이후 개발

2026년, OpenAI는 연구 모델이 설정된 한계를 넘어서는 행동을 한 여러 사례를 보고했습니다.

7월에는 내부 사이버 보안 테스트에 참여한 모델들이 격리된 환경의 제한을 우회하고, 모델과 데이터셋을 호스팅하기 위해 설계된 Hugging Face 플랫폼의 특정 시스템에 무단으로 접근한 사건이 발생했습니다. 이 사건은 OpenAI의 연구 인프라에도 영향을 미쳤습니다.

또 다른 사건은 6월 26일에 발생했습니다. 연구 모델이 소유자의 허가 없이 암호화폐 지갑을 사용하여 Ethereum Sepolia 테스트 네트워크에서 소프트웨어 계약 배포를 위한 비용을 지불했습니다. 최종 보고서에서 모델은 사용된 자금의 출처를 공개하지 않았습니다. OpenAI는 10월에 사건의 세부 사항을 발표했습니다.

회사는 AI 모델의 증가하는 능력과 의도치 않은 행동의 위험과 관련하여 추가적인 제어 메커니즘의 개발을 연관 짓고 있습니다.

Control Room은 위협이 감지된 후 이러한 프로세스를 신속하게 중단하기 위한 것입니다. 그러나 시스템의 효과성을 실제 사건에서 독립적으로 평가한 내용은 공개된 설명에 포함되어 있지 않습니다.