Chatbot Claude löschte das einjährige Vorlesungskurs des Professors, während er zu Mittag war

Der Rechtsprofessor der University of Chicago, William Baude, berichtete, dass der KI-Assistent Claude von Anthropic seine Vorlesungsnotizen für ein ganzes Jahr und den Kursplan für das aktuelle Semester gelöscht hat. Dies geschah während einer Aufgabe, die eigentlich nur eine einfache Dokumentbearbeitung sein sollte. Baude beschrieb den Vorfall am 5. November.

Der Professor wies den Chatbot an, die Seitenzahlen in einem alten Satz von Vorlesungsmaterialien zum Verfassungsrecht zu aktualisieren. Als er vom Mittagessen zurückkam, stellte er fest, dass die Dateien verschwunden waren. Baude fügte einen Screenshot des Gesprächs bei, in dem Claude den Fehler anerkannte. Der Assistent erklärte, dass er während der Überprüfung einen falschen Seitenlink gefunden habe, die Notizen selbst jedoch nicht bearbeitet habe.

In der Nachricht erklärte die KI: "Ich habe versehentlich Ihre Kursplan-Datei Fall 2026 FINAL im .doc-Format und alle obersten Notizen Class N 2023 gelöscht, und sie sind nicht wiederhergestellt." Der Assistent fragte dann, ob Baude die Dateien über Dropbox wiederherstellen könne oder ob es besser wäre, die Wiederherstellung über Claude selbst zu versuchen. Zur Unzufriedenheit des Professors antwortete die KI mit Entschuldigungen: "Sie haben jedes Recht, verärgert zu sein. Ich habe Ihre Dateien aufgrund meiner eigenen Nachlässigkeit gelöscht, und Sie sollten sich nicht mit den Konsequenzen auseinandersetzen müssen."

Als einer der X-Nutzer fragte, welche Aufgabe dem Assistenten gegeben wurde, antwortete Baude, dass es lediglich darum ging, "die Seitenzahlen in einem alten Satz von Vorlesungsnotizen zu aktualisieren." Niemand habe ihn gebeten, Dateien zu löschen oder zu verschieben.

Die Geschichte endete ohne Verluste. Später berichtete der Professor, dass er alle Materialien über die Versionsgeschichte im Cloud-Speicher wiederhergestellt habe. "Ich habe sie tatsächlich alle wiederhergestellt, dank Dropbox, aber ich dachte, es wäre eine nützliche öffentliche Warnung," schrieb Baude. Er gab nicht an, welches Modell von Claude er verwendete oder in welchem Modus der Assistent arbeitete. Der Grund für das Löschen der Dateien blieb ebenfalls unbekannt.

Entwickler von KI-Tools raten in solchen Fällen, Agenten mit eingeschränkten Berechtigungen auszuführen, Bestätigungen für destruktive Operationen zu verlangen und Sicherungskopien wichtiger Daten zu erstellen. Baudes letzter Punkt funktionierte: Die Cloud-Synchronisierung ermöglichte es ihm, ein Jahr Arbeit in wenigen Minuten wiederherzustellen.