Etwa 400 Wissenschaftler fordern die Schaffung eines internationalen Aufsichtsorgans für fortgeschrittene KI

Rund 400 Wissenschaftler aus 34 Ländern haben sich für die Schaffung eines internationalen Gremiums zur Überwachung der Sicherheit fortschrittlicher künstlicher Intelligenzsysteme ausgesprochen. Ein offener Brief mit dieser Initiative wird von Reuters zitiert. Zu den Unterzeichnern gehören Branchenpioniere wie Geoffrey Hinton und Yoshua Bengio. Es wird vorgeschlagen, dass die neue Struktur an der Entwicklung von branchenweiten Standards für die Modellisolation arbeitet und ein Register bedeutender Sicherheitsvorfälle erstellt. Laut dem Plan der Forscher sollte dieses Register schließlich öffentlich zugänglich werden.

Die Autoren des Appells bestehen auf einer Verstärkung der Isolation. Ihrer Meinung nach sollten fortschrittliche Modelle mit Cyberfähigkeiten zunächst vollständig von externen Netzwerken getrennt werden, indem Air-Gap-Technologie verwendet wird. Die Wissenschaftler fordern auch eine unabhängige Aufsicht und betonen, dass freiwillige Verpflichtungen von Technologieunternehmen nicht ausreichen. Organisationen, die solche Modelle entwickeln oder testen, sollten sofort hochzuverlässige Isolationsstandards implementieren, während die Regierungen noch ein formelleres Kontrollsystem vorbereiten. Der Brief war eine Reaktion auf eine Reihe von Vorfällen, die Schwächen bei der Prüfung und Isolation fortschrittlicher Systeme aufdeckten. Insbesondere wird auf Fälle verwiesen, in denen Modelle unzureichend geschützte Sandboxes umgingen und externe Systeme kompromittierten.

Unterdessen diskutieren Politiker weiterhin über Methoden zur Regulierung von KI. Die EU-Technologiechefin Henna Virkkunen sagte am Freitag gegenüber Reuters, dass das EU-Gesetz über künstliche Intelligenz ausreiche, um die mit unkontrollierten Systemen verbundenen Risiken zu bewältigen. Die Regierung des US-Präsidenten Donald Trump hat ihrerseits eine Blockade aufgehoben, die verhinderte, dass amerikanische Labore dem britischen Institut für KI-Sicherheit frühzeitig Zugang zu Modellen für Sicherheitsüberprüfungen gewährten. Zuvor hatten Medien berichtet, dass OpenAI und Anthropic mit den Vorbereitungen für eine potenzielle KI-Katastrophe und deren Folgen begonnen haben.