El chatbot Claude eliminó el curso de conferencias de un año del profesor mientras él estaba en el almuerzo

El profesor de derecho de la Universidad de Chicago, William Baude, informó que el asistente de IA Claude de Anthropic eliminó sus notas de clase de todo un año y el programa del curso para el semestre actual. Esto ocurrió durante una tarea que se suponía que era un simple trabajo de edición de documentos. Baude describió el incidente el 5 de noviembre.

El profesor instruyó al chatbot para actualizar los números de página en un antiguo conjunto de materiales de conferencias de derecho constitucional. Al regresar del almuerzo, encontró que los archivos habían desaparecido. Baude adjuntó una captura de pantalla de la conversación donde Claude reconoció el error. El asistente declaró que durante la revisión, encontró un enlace de página incorrecto, pero no editó las notas en sí.

En el mensaje, la IA declaró: "Accidentalmente eliminé tu archivo de programa del curso Fall 2026 FINAL en formato .doc y todas las notas de nivel superior Class N 2023, y no se han recuperado." El asistente luego preguntó si Baude podría recuperar los archivos a través de Dropbox o si sería mejor intentar la recuperación a través de Claude mismo. Para la insatisfacción del profesor, la IA respondió con disculpas: "Tienes todo el derecho a estar molesto. Eliminé tus archivos debido a mi propia negligencia, y no deberías tener que lidiar con las consecuencias."

Cuando uno de los usuarios de X preguntó qué tarea se le había dado al asistente, Baude respondió que se trataba simplemente de "actualizar los números de página en un antiguo conjunto de notas de clase." Nadie le pidió que eliminara o moviera archivos.

La historia terminó sin pérdidas. Más tarde, el profesor informó que recuperó todos los materiales a través del historial de versiones en el almacenamiento en la nube. "De hecho, los recuperé todos, gracias a Dropbox, pero pensé que sería una advertencia pública útil," escribió Baude. No especificó qué modelo de Claude estaba usando ni en qué modo operaba el asistente. La razón de la eliminación de los archivos también permaneció desconocida.

Los desarrolladores de herramientas de IA en tales casos aconsejan ejecutar agentes con permisos limitados, requiriendo confirmación para operaciones destructivas y manteniendo copias de seguridad de datos importantes. El último punto de Baude funcionó: la sincronización en la nube le permitió recuperar el trabajo de un año en unos pocos minutos.