챗봇 클로드, 점심 시간에 교수의 1년 강의 코스를 삭제하다

시카고 대학교 법학 교수인 윌리엄 보드(William Baude)는 Anthropic의 AI 어시스턴트 Claude가 그의 강의 노트를 1년치 삭제하고 현재 학기의 강의 계획서를 삭제했다고 보고했습니다. 이는 단순한 문서 편집 작업이어야 했던 동안 발생했습니다. 보드는 11월 5일 이 사건을 설명했습니다.

교수는 챗봇에게 오래된 헌법 강의 자료의 페이지 번호를 업데이트하도록 지시했습니다. 점심을 마치고 돌아와 보니 파일이 사라졌습니다. 보드는 Claude가 실수를 인정한 대화의 스크린샷을 첨부했습니다. 어시스턴트는 검토 중 잘못된 페이지 링크를 발견했지만 노트 자체는 편집하지 않았다고 말했습니다.

메시지에서 AI는 "나는 실수로 .doc 형식의 Fall 2026 FINAL 강의 계획서 파일과 모든 최상위 노트 Class N 2023을 삭제했으며 복구되지 않았습니다."라고 말했습니다. 어시스턴트는 Baude에게 Dropbox를 통해 파일을 복구할 수 있는지, 아니면 Claude 자체를 통해 복구를 시도하는 것이 더 나은지 물었습니다. 교수의 불만에 대해 AI는 사과하며 응답했습니다: "당신이 화가 나는 것은 당연합니다. 제 부주의로 인해 파일을 삭제했으며, 당신이 그 결과를 감당해야 할 필요는 없습니다."

X 사용자가 어시스턴트에게 어떤 작업이 주어졌는지 물었을 때, Baude는 "오래된 강의 노트의 페이지 번호 업데이트"에 불과했다고 답했습니다. 아무도 파일을 삭제하거나 이동하라고 요청하지 않았습니다.

이 이야기는 손실 없이 끝났습니다. 나중에 교수는 클라우드 저장소의 버전 기록을 통해 모든 자료를 복구했다고 보고했습니다. "Dropbox 덕분에 모든 것을 복구했지만, 이것이 유용한 공공 경고가 될 것이라고 생각했습니다."라고 Baude는 썼습니다. 그는 Claude의 어떤 모델을 사용했는지 또는 어시스턴트가 어떤 모드로 작동했는지 명시하지 않았습니다. 파일 삭제의 이유도 여전히 알려지지 않았습니다.

이러한 경우 AI 도구 개발자들은 제한된 권한으로 에이전트를 실행하고, 파괴적인 작업에 대한 확인을 요구하며, 중요한 데이터의 백업을 유지할 것을 권장합니다. Baude의 마지막 포인트가 효과를 발휘했습니다: 클라우드 동기화 덕분에 몇 분 만에 1년치 작업을 복구할 수 있었습니다.