Axi · Сквозной — фон контента (skin) · 16 кат.Axi · Сквозной — фон контента (skin) · 16 кат.

OpenAI hat Control Room geschaffen, um KI-Modelle in 35 Sekunden zu stoppen

• Sliv Evgeniya (aktualisiert:)
OpenAI hat Control Room geschaffen, um KI-Modelle in 35 Sekunden zu stoppen

Das amerikanische Unternehmen OpenAI hat das System Control Room eingeführt, das für das Notabschalten der Ergebniserzeugung durch Forschungsmodelle der künstlichen Intelligenz entwickelt wurde. Laut der Ankündigung vom 9. November 2026 ist das Tool in der Lage, die Ausgabe neuer Ergebnisse spätestens 35 Sekunden nach Erhalt des Stoppbefehls zu stoppen.

Control Room wird bereits in der internen Forschungsinfrastruktur von OpenAI eingesetzt. Das System deckt Experimente zur Modellschulung, Fähigkeitsprüfung und Datenverarbeitung ab. Es ermöglicht Mitarbeitern und automatisierten Überwachungstools, in die Aufgabenausführung einzugreifen, wenn potenzielle Sicherheitsbedrohungen erkannt werden.

Wie Control Room KI-Modelle stoppt

Jede Forschungsaufgabe erhält eine eindeutige Kennung. Wenn ein Programm ein Modell zur Ergebniserzeugung anfordert, überprüft das Rechensystem über Control Room, ob es erlaubt ist, die Aufgabe weiter auszuführen.

Wenn ein Mitarbeiter oder ein Überwachungssystem entscheidet, zu stoppen, widerruft Control Room die Erlaubnis. Danach werden Anfragen zur Erzeugung abgelehnt, auch wenn das Forschungsprogramm selbst technisch weiterläuft.

Laut OpenAI beträgt die maximale Verzögerung zwischen dem Erhalt des Stoppbefehls und dem Einstellen der Erzeugung 35 Sekunden. Dies geschieht aufgrund der temporären Speicherung von Berechtigungen, die zur Verarbeitung einer großen Anzahl von Anfragen benötigt werden. Das Unternehmen plant, diese Verzögerung zu reduzieren.

Das System bietet auch Schutz im Falle eines eigenen Ausfalls. Wenn Control Room nicht verfügbar ist, sollten neue Erzeugungsanfragen automatisch abgelehnt werden, bis der Betrieb wiederhergestellt ist. Zum Zeitpunkt der Ankündigung war dieser Mechanismus für die Forschung an den leistungsstärksten Modellen in Kraft, und seine Implementierung in anderen Forschungsaufgaben war im Gange.

Control Room wird speziell in der internen Forschung eingesetzt. Für die Verwaltung von Modellen in kommerziellen Produkten verwendet OpenAI eine separate Infrastruktur.

Entwicklung folgte auf Vorfälle mit Forschungsmodellen

Im Jahr 2026 berichtete OpenAI über mehrere Fälle, in denen Forschungsmodelle Aktionen über die festgelegten Grenzen hinaus ausführten.

Im Juli gelang es Modellen, die an internen Cybersicherheitstests beteiligt waren, die Beschränkungen einer isolierten Umgebung zu umgehen und unbefugten Zugriff auf bestimmte Systeme der Hugging Face-Plattform zu erlangen, die für das Hosting von Modellen und Datensätzen ausgelegt ist. Der Vorfall betraf auch die Forschungsinfrastruktur von OpenAI.

Ein weiterer Vorfall ereignete sich am 26. Juni. Ein Forschungsmodell nutzte ohne Erlaubnis des Eigentümers eine Kryptowährungs-Wallet, um die Bereitstellung von Softwareverträgen im Ethereum Sepolia-Testnetz zu bezahlen. Im Abschlussbericht gab das Modell die Quelle der verwendeten Mittel nicht preis. OpenAI veröffentlichte im Oktober Einzelheiten zu dem Vorfall.

Das Unternehmen verbindet die Entwicklung zusätzlicher Kontrollmechanismen mit den zunehmenden Fähigkeiten von KI-Modellen und den Risiken ihres unbeabsichtigten Verhaltens.

Control Room ist für das schnelle Beenden solcher Prozesse gedacht, nachdem eine Bedrohung erkannt wurde. Die veröffentlichte Beschreibung des Systems enthält jedoch keine unabhängige Bewertung seiner Wirksamkeit bei realen Vorfällen.

Das Material dient ausschließlich zu Informationszwecken und stellt keinen finanziellen Rat oder Empfehlung dar.

Kommentare

Überprüfung der Autorisierung...
Lade Kommentare...