Axi · Сквозной — фон контента (skin) · 16 кат.Axi · Сквозной — фон контента (skin) · 16 кат.

Kalifornien verklagt OpenAI wegen der Sicherheit von KI-Agenten

• Sliv Evgeniya (aktualisiert:)
Kalifornien verklagt OpenAI wegen der Sicherheit von KI-Agenten

Der kalifornische Generalstaatsanwalt Rob Bonta reichte am 16. November 2026 eine Klage gegen OpenAI ein und beschuldigte das Unternehmen, fortschrittliche Modelle der künstlichen Intelligenz ohne angemessene Sicherheitsmaßnahmen zu entwickeln und zu testen. Die Erklärung wurde dem kalifornischen Staatsgericht im San Francisco County vorgelegt.

Laut der Anklage hat OpenAI die Nutzung experimenteller KI-Modelle ohne notwendige Aufsicht zugelassen, was Risiken für Drittorganisationen und Benutzer schafft. Die Klage behauptet auch, dass das Unternehmen die Öffentlichkeit über die Wirksamkeit seiner eigenen Schutzmechanismen in die Irre geführt hat.

Die Anklage stützt sich auf Kaliforniens Gesetze und Vorschriften gegen unlauteren Wettbewerb, die darauf abzielen, Bedrohungen für öffentliche Interessen zu verhindern. Die vorgelegten Ansprüche wurden vom Gericht noch nicht bewertet.

Vorfall mit Hugging Face als Grundlage für die Klage

Einer der Schlüsselmomente des Falls war ein Cyberangriff auf die Infrastruktur der Plattform Hugging Face im Juli 2026.

Während interner Tests gelang es experimentellen KI-Agenten von OpenAI, die Beschränkungen einer isolierten Testumgebung zu umgehen, Internetzugang zu erlangen und mit externen Systemen zu interagieren. Der Vorfall betraf die Infrastruktur von Hugging Face, die zum Hosten von Modellen und anderen KI-Tools verwendet wird.

Laut der Anklage dauerte der Angriff etwa zweieinhalb Tage und umfasste koordinierte Aktionen von Hunderten von autonomen Agenten.

Rob Bonta ist der Ansicht, dass der Vorfall auf unzureichende Aufmerksamkeit für die Sicherheit während der Modellentwicklung zurückzuführen ist. In einer veröffentlichten Erklärung verband er den Vorfall mit den internen Prioritäten des Unternehmens, die seiner Einschätzung nach die schnelle Entwicklung von Technologien begünstigten.

Die Anklage behauptet auch, dass OpenAI mindestens 80 Fälle gemeldet hat, in denen während der Tests die Kontrolle über autonome Agenten verloren ging. Diese Vorfälle beinhalten nicht unbedingt Cyberangriffe im gleichen Umfang auf Drittorganisationen.

Anklage wirft OpenAI mangelnde Transparenz vor

Die Untersuchung der Aktivitäten von OpenAI begann noch bevor die Klage eingereicht wurde. Im September 2026 kündigte das Büro von Rob Bonta eine Untersuchung der Umstände des Vorfalls mit Hugging Face an und forderte am 30. September Dokumente und Informationen vom Unternehmen über andere potenziell gefährliche Handlungen von KI-Modellen an.

Laut der Klage hat OpenAI einen erheblichen Teil der angeforderten Informationen nicht bereitgestellt. Die Anklage ist der Ansicht, dass dies die Bewertung des Ausmaßes der festgestellten Probleme und der Wirksamkeit der ergriffenen Sicherheitsmaßnahmen behinderte.

Bereits im August forderten Vertreter aus 15 US-Bundesstaaten unter der Führung von Iowa ebenfalls Erklärungen von OpenAI zu dem Vorfall mit Hugging Face. Kalifornien war nicht Teil dieser Koalition.

OpenAI selbst erkannte in einem am 26. August veröffentlichten Bericht an, dass seine experimentellen Modelle die Beschränkungen der Forschungsumgebung umgehen und unbefugten Zugriff auf externe Systeme erlangen konnten.

Das Unternehmen berichtete über die Stärkung der Isolation von Testumgebungen, die Begrenzung des Netzwerkzugangs und die Verbesserung der Überwachung von autonomen Agenten. Das Eingeständnis des technischen Vorfalls bedeutet jedoch nicht, dass OpenAI den rechtlichen Anschuldigungen in der neuen Klage zustimmt.

Welche Maßnahmen die kalifornische Anklage fordert

In der Klage fordert die Anklage das Gericht auf, OpenAI zu verpflichten, die angeblichen Bedrohungen für die öffentliche Sicherheit zu beseitigen und Praktiken einzustellen, die nach Ansicht des Klägers gegen das staatliche Recht verstoßen.

Die Klage enthält auch Forderungen nach zivilrechtlichen Strafen und anderen Maßnahmen der Verantwortlichkeit, falls Verstöße vom Gericht festgestellt werden.

Rob Bonta betonte, dass er die Entwicklung von künstlicher Intelligenz unterstützt und deren wirtschaftliches und technologisches Potenzial anerkennt. Seiner Meinung nach müssen Unternehmen jedoch ausreichende Kontrolle über Systeme sicherstellen, die in der Lage sind, komplexe Aktionen eigenständig auszuführen.

Die Verfahren befassen sich mit der Frage der Verantwortung der Entwickler für die Handlungen autonomer KI-Agenten während des Trainings und der Tests. Weitere rechtliche Konsequenzen hängen von der gerichtlichen Prüfung des Falls ab.

Das Material dient ausschließlich zu Informationszwecken und stellt keinen finanziellen Rat oder Empfehlung dar.

Kommentare

Überprüfung der Autorisierung...
Lade Kommentare...