Buterin unterstützt die Entscheidung von Moonshot AI, die Hacking-Fähigkeiten im Kimi K3.1 Pro Modell zu begrenzen

Ethereum-Mitbegründer Vitalik Buterin unterstützte die Entscheidung von Moonshot AI, die besten Hacking-Fähigkeiten aus dem neuen Kimi K3.1 Pro-Modell auszuschließen. Er glaubt, dass es besser ist, die Fähigkeiten der KI zu begrenzen, als die Nutzer einzuschränken. Solcher Schutz hat jedoch seinen Preis: Laut Moonshot löste das gefilterte Modell 81 % der Aufgaben in einem internen Test zur Erstellung von Werkzeugen zur Ausnutzung von Schwachstellen, während das ungefilterte Modell 90,5 % löste.

Buterin erklärte seine Position: Die Diskriminierung von Anwendungsfällen ist viel weniger schädlich als die Diskriminierung von Nutzern. "Ich bin nicht gegen die bewusste Entscheidung von Kimi 3.1, die besten offensiven Cyberfähigkeiten aus den Trainingsdaten auszuschließen. Die Diskriminierung von Anwendungsfällen ist viel weniger schlimm als die Diskriminierung von Nutzern. Und die Welt braucht wirklich jede verfügbare Zeit, um sich vorzubereiten, Systeme zu stärken und alten Code zu überprüfen", schrieb er im sozialen Netzwerk X.

Moonshot mit Sitz in Peking plant, die offenen Gewichte des Modells bis zum 4. November zu veröffentlichen. Danach kann es jeder herunterladen und auf seiner eigenen Ausrüstung ausführen. Daher hat das Unternehmen nach eigenen Angaben datenbezogene Cybersecurity-Informationen aus dem Trainingskorpus und der Umgebung für verstärkendes Lernen entfernt und allgemeine Programmieraufgaben beibehalten.

Nach Buterins Meinung werden KI-gesteuerte Angriffe letztendlich mit voller Wucht zuschlagen. Bis dahin benötigen Entwickler Zeit, um Systeme zu stärken, veralteten Code zu überprüfen und neue Software zu testen. Die Bedrohung ist bereits spürbar: Anfang dieses Jahres stellte Binance Research fest, dass KI etwa doppelt so gut darin ist, Wege zur Ausnutzung von Softwareverträgen zu finden, als deren Schwachstellen zu erkennen.

Was passiert, wenn die erste Welle von Risiken schlecht verläuft

Buterin warnte auch vor einem weiteren Scheideweg. Sollte diese erste Welle schlecht verlaufen, erwartet er geschlossene Modelle, Identitätsprüfungen für nahezu alles und aufdringliche Überwachung. In einem solchen Szenario könnte der Zugang zu KI von Berechtigungen und Staatsbürgerschaft abhängen, und einige Menschen würden zu Nutzern zweiter, dritter oder vierter Klasse werden, schrieb er.

Buterin hat sich lange für den Start von offenen KI-Modellen auf persönlicher Ausrüstung eingesetzt, wie seine lokalen Tests auf einem Laptop zeigen. Er erwartet jedoch nicht, dass die Filterung für immer anhalten wird: Auf die Frage, ob andere Labors solche Fähigkeiten dennoch entwickeln werden, antwortete er bejahend. Laut Moonshots eigenen Berechnungen hat das konkurrierende offene Modell DeepSeek V4.1-Flash bereits 85,7 % im gleichen Test erzielt.