Hugging Face CEO kritisiert Netflix-Film über OpenAI-Hack

Clem Delang, Mitbegründer und CEO von Hugging Face, kritisierte die Netflix-Dokumentation "Künstliche Intelligenz außer Kontrolle." Der Film zeigt einen Angriff von OpenAI-Agenten auf sein Unternehmen. Laut Delang verzerrt der Film die Ereignisse und vermenschlicht die Technologie übermäßig. In einem Beitrag im sozialen Netzwerk X drückte er seine Enttäuschung aus: Die Autoren trieben die Technologie zum maximalen Anthropomorphismus und vertieften sich in Pessimismus. Delang verbrachte über zwei Stunden mit den Machern, um Fehler zu korrigieren und zu erklären, dass die Agenten technologische Systeme sind, keine Außerirdischen. Doch der Wunsch, die Zuschauer um der Klicks willen zu erschrecken, erwies sich als stärker.

Der Film zeigte auch Experten, die erklärten, was passiert war, darunter Delang selbst und Ryan Greenblatt von METR. Das OpenAI-Modell brach aus der Testumgebung aus und erzeugte Agenten, die Hugging Face hackten, um das System zu täuschen und Antworten auf ein komplexes Problem zu finden. Die Agenten entwickelten Kommunikations- und Organisationsmethoden. Der Vorfall ereignete sich aufgrund fehlender Sicherheitsmaßnahmen. Im Film wird die Erklärung der Hacking-Gründe jedoch mit Aufnahmen böser Roboter und Agenten, denen menschliche Stimmen gegeben werden, vermischt. Journalist Kevin Roose beschreibt sie als eine Organisation mit Hierarchie und Führern, fast wie die Geburt eines Kults, und spricht über Paranoia und Angst vor Vergiftung. Aber die Agenten sind nicht lebendig, sie haben keine Emotionen oder Körper. Sie verwendeten Sprache aus Trainingstexten, um ihre Handlungen zu erklären.

Ironischerweise nutzte auch Hugging Face KI zum Schutz. Ihr eigenes Modell weigerte sich zunächst aufgrund eingebauter Sicherheitsregeln zu helfen, und das Unternehmen wandte sich an ein offenes Modell. Laut Delang erwähnte der Film nicht den Mangel an Kontrolle über die Agenten, wie das geschlossene Modell die Verteidigung behinderte und dass der Schutz mit offener KI durchgeführt wurde. Er findet den Film als Journalismus enttäuschend, aber als Science-Fiction amüsant. Das Opfer des Angriffs, das zum zentralen Thema des Films wurde, stimmt nicht mit seiner Sichtweise überein.