Vitalik Buterin: KI hat Wissen, aber fehlt an Weisheit

Ethereum-Mitbegründer Vitalik Buterin erklärte, dass künstliche Intelligenz über ein enormes Wissen verfügt, aber an Weisheit mangelt. Er bemerkte, dass Chatbots Referenzen zu fast jedem Thema finden können, jedoch nur die oberflächlichen Aspekte des Textes beurteilen. Seine Kommentare erschienen in einer Diskussion auf X darüber, ob moderne Chatbots mit den aufmerksamsten menschlichen Lesern konkurrieren können.

Die Debatte begann nach einer Veröffentlichung im Wall Street Journal über den Kurs Humanities 10 an der Harvard-Universität, der für Erstsemester herausfordernd ist. In diesem Semester stieg die Anzahl der Bewerbungen um 40 Prozent: 180 Studenten kämpfen um 90 Plätze. Die Studenten lesen jede Woche ein schweres Buch, und Geräte sind im Unterricht verboten. Einige Bewerber sagten, sie wollten ein Gegenmittel zu den Vereinfachungen finden, die von KI angeboten werden. Als Antwort behauptete ein Benutzer, dass die heutigen Modelle jeden Menschen bei der Diskussion über Klassiker übertreffen, da sie alles gelesen haben. Eine Schriftstellerin konterte und nannte die Chatbot-Bewertungen ihres Essays zu diesem Zeitpunkt Unsinn.

Buterin beteiligte sich an der Debatte und zog eine Unterscheidung zwischen Wissen und Weisheit. In seiner Nachricht schrieb er: "Ich glaube, dass KI über enormes Wissen verfügt und Referenzen zu fast allem bemerken kann, aber sie ist nicht sehr weise und trifft daher nur die oberflächlichsten Urteile darüber, welchen Gedanken der Text zu vermitteln versucht." Seiner Meinung nach ist das Wissen der KI leichter zu bemerken als ihre begrenzte Weisheit, da Weisheit, im Gegensatz zu Intelligenz, von Natur aus schwer zu überprüfen sein kann.

Die Schwäche wird deutlicher, wenn das Modell einen Text zum ersten Mal liest. Berühmte Werke hingegen werden von zahlreichen menschlichen Analysen in den Trainingsdaten begleitet. Buterin warnte kürzlich auch davor, dass KI innerhalb von zwei Jahren wichtige Aspekte der Krypto-Sicherheit schwächen könnte, und erstellte einen paranoiden Modus für Chats mit KI. Einige Investoren argumentieren, dass KI bereits die besten menschlichen Köpfe in Mathematik übertrifft.

In der Zwischenzeit übergeben Krypto-Teams weiterhin Audits, Recherchen und Governance-Zusammenfassungen an KI-Agenten. Oberflächliches Lesen kann einen subtilen Fehler in einem Smart Contract oder einem Token-Freigabeplan übersehen. Buterin betont: Fakten sind leicht mit einer Quelle zu überprüfen, aber ein Urteil über einen völlig neuen Text ist es nicht. Seine jüngste Unterstützung für ein KI-Modell mit begrenzten Hacking-Fähigkeiten zeigt denselben Wunsch, die menschliche Kontrolle zu bewahren.