Чат-бот Claude удалил годовой курс лекций профессора, пока тот был на обеде

Профессор права Чикагского университета Уильям Боуд сообщил, что ИИ-ассистент Claude от Anthropic удалил его конспекты лекций за целый год и программу курса на нынешний семестр. Это произошло во время задачи, которая должна была сводиться к простому редактированию документов. Боуд описал случившееся 5 ноября.

Профессор поручил чат-боту обновить номера страниц в старом наборе лекционных материалов по конституционному праву. Вернувшись с обеда, он обнаружил, что файлы исчезли. К посту Боуд приложил скриншот переписки, где Claude признал ошибку. Ассистент сообщил, что во время проверки нашел некорректную ссылку на страницу, но сами конспекты так и не отредактировал.

В сообщении ИИ указал: «Я случайно удалил ваш файл программы курса Fall 2026 FINAL в формате .doc и все заметки верхнего уровня Class N 2023, и они не восстановлены». Затем ассистент спросил, сможет ли Боуд вернуть файлы через Dropbox, или лучше попытаться восстановить их силами самого Claude. На недовольство профессора ИИ ответил извинениями: «Вы вправе злиться. Я удалил ваши файлы по собственной небрежности, и вам не должно приходиться разбираться с последствиями».

Когда один из пользователей X спросил, какое задание получил ассистент, Боуд ответил, что речь шла лишь об «обновлении номеров страниц в старом наборе лекционных конспектов». Удалять или перемещать файлы его никто не просил.

История закончилась без потерь. Позже профессор сообщил, что вернул все материалы через историю версий в облачном хранилище. «Я действительно восстановил их все, спасибо Dropbox, но решил, что это будет полезным публичным предупреждением», – написал Боуд. Какой моделью Claude он пользовался и в каком режиме работал ассистент, профессор не уточнил. Причина удаления файлов тоже осталась неизвестной.

Разработчики ИИ-инструментов в таких случаях советуют запускать агентов с ограниченными правами, требовать подтверждения для деструктивных операций и хранить резервные копии важных данных. У Боуда сработал последний пункт: облачная синхронизация позволила вернуть год работы за несколько минут.