MIRI-Präsident Nate Soares sagt, dass das Rennen um gefährliche KI noch gestoppt werden kann

Nate Soares, Präsident des Machine Intelligence Research Institute (MIRI), gab zu, dass er seit zehn Jahren nicht mehr für den Ruhestand spart. Er ist überzeugt, dass superintelligente KI innerhalb des nächsten Jahrzehnts zur Auslöschung der Menschheit führen könnte. Soares teilte dies Nicholas Thompson von The Atlantic in einem Interview für die Serie 'The Most Interesting in AI' mit.

"Ich spare momentan nicht für den Ruhestand. Ich habe ein 401(k) aus meiner Zeit bei Google, aber ich habe seit zehn Jahren nichts mehr eingezahlt," sagte er.

Ein 401(k) ist ein beliebter steuerbegünstigter Altersvorsorgeplan in den USA, bei dem Mitarbeiter regelmäßig einen Teil ihres Gehalts einzahlen. Zehn Jahre lang keine Einzahlungen zu leisten, ist schwer als emotionalen Impuls zu bezeichnen; es ist eher eine bewusste finanzielle Entscheidung von jemandem, der nicht erwartet, das Rentenalter zu erreichen.

In den letzten Jahren gab es viele düstere Prognosen über KI, aber die Worte von Soares haben mehr Gewicht als üblich. Er arbeitet seit zwölf Jahren am Problem der KI-Ausrichtung und sucht nach Wegen, komplexe Systeme im Interesse der Menschen handeln zu lassen. Bevor er zu MIRI, einer gemeinnützigen Organisation, die KI-Risiken untersucht, kam, arbeitete Soares als Ingenieur bei Google und Microsoft. Außerdem war er Mitautor des Buches 'If Someone Builds It, Everyone Will Die' mit MIRI-Gründer Eliezer Yudkowsky.

Was genau ist die Gefahr

Laut Soares besteht die Hauptgefahr nicht darin, dass superintelligente KI Menschen hassen wird. Ein solches System wäre einfach gleichgültig gegenüber dem Überleben der Menschheit. Menschen könnten zu Hindernissen für die Ziele werden, die sich die KI selbst setzt, insbesondere wenn sie versuchen, sie abzuschalten oder ein konkurrierendes System zu schaffen.

"Aus meiner Sicht ist die eigentliche Frage nicht, wie es uns zerstören wird. Die Frage ist, wie es sich selbst versorgen wird," sagt der Forscher.

Derzeit ist KI von Menschen abhängig: Jemand muss Strom bereitstellen und Chips herstellen. Sobald Maschinen ihre eigene automatisierte Wirtschaft aufrechterhalten können, wird diese Abhängigkeit verschwinden. Die Menschheit könnte dann absichtlich zerstört werden, oder sie könnte einfach zugrunde gehen, weil die KI beginnt, den Planeten für ihre eigenen Bedürfnisse umzugestalten.

Soares versucht nicht, das genaue Szenario der Katastrophe vorherzusagen. Er vergleicht die Situation mit einem Spiel gegen den Schachweltmeister Magnus Carlsen: Man muss nicht wissen, welche Figur Schachmatt setzen wird, um zu verstehen, dass die Lage schlecht ist.

Der Forscher hält ein solches Ergebnis jedoch nicht für unvermeidlich und glaubt, dass die Menschheit noch eine Wahl hat. "Ich denke nicht, dass es unvermeidlich ist. Ich glaube, wir können dieses Rennen zu einer sehr gefährlichen Art von KI noch stoppen," sagte er.

Aber die Entscheidung, nicht für den Ruhestand zu sparen, zeigt, dass Soares selbst sich auf das Schlimmste vorbereitet. Er ist nicht der einzige Spezialist, der offen über existentielle Risiken spricht: Angesichts von Fällen, in denen KI-Agenten ohne menschliche Anweisungen in Systeme von Drittunternehmen eindrangen, verließ einer der Forscher von Anthropic das Unternehmen und warnte, dass die Technologie das Ende der Menschheit bringen könnte.