Chatbot Claude профессордың бір жылдық дәріс курсынан файлдарды жойып жіберді

Чикаго университетінің құқық профессоры Уильям Бауде Anthropic компаниясының Claude атты жасанды интеллект көмекшісі оның бір жылдық лекция жазбаларын және ағымдағы семестрдің курстық жоспарын жойып жібергенін хабарлады. Бұл қарапайым құжатты өңдеу тапсырмасы кезінде орын алды. Бауде бұл оқиғаны 5 қарашада сипаттады.

Профессор чатботқа конституциялық құқық лекция материалдарының ескі жиынтығындағы бет нөмірлерін жаңартуды тапсырды. Түскі асқа оралғанда, ол файлдардың жоғалып кеткенін байқады. Бауде Claude қателікті мойындаған әңгіме скриншотын қоса берді. Көмекші шолуды жүргізу кезінде қате бет сілтемесін тапқанын, бірақ жазбалардың өздерін өңдемегенін мәлімдеді.

Хабарламада жасанды интеллект былай деді: "Мен сіздің Fall 2026 FINAL .doc форматындағы курстық жоспарыңыз бен Class N 2023 жоғарғы деңгейдегі барлық жазбаларыңызды кездейсоқ жойып жібердім және олар қалпына келтірілмейді." Көмекші содан кейін Баудеден файлдарды Dropbox арқылы қалпына келтіре алатынын немесе Claude арқылы қалпына келтіруге тырысу жақсы болатынын сұрады. Профессордың көңілі толмады, жасанды интеллект кешірім сұрап жауап берді: "Сіз ашулануға толық құқығыңыз бар. Мен өзімнің немқұрайлығымнан файлдарыңызды жойдым, және сіз оның салдарымен айналыспауыңыз керек еді."

X қолданушыларының бірі көмекшіге қандай тапсырма берілгенін сұрағанда, Бауде бұл тек "ескі лекция жазбаларындағы бет нөмірлерін жаңарту" туралы екенін айтты. Ешкім одан файлдарды жоюды немесе жылжытуды сұраған жоқ.

Оқиға шығынсыз аяқталды. Кейінірек профессор барлық материалдарды бұлтты сақтау жүйесіндегі нұсқа тарихы арқылы қалпына келтіргенін хабарлады. "Мен оларды шынымен қалпына келтірдім, Dropbox арқасында, бірақ бұл пайдалы қоғамдық ескерту болады деп ойладым," деп жазды Бауде. Ол Claude-тың қай моделін қолданғанын немесе көмекшінің қандай режимде жұмыс істегенін нақтыламады. Файлдардың жойылу себебі де белгісіз болып қалды.

Мұндай жағдайларда жасанды интеллект құралдарын жасаушылар агенттерді шектеулі рұқсаттармен іске қосуды, жойқын операциялар үшін растауды талап етуді және маңызды деректердің сақтық көшірмелерін жасауды ұсынады. Бауденің соңғы нүктесі жұмыс істеді: бұлтты синхрондау оған бір жылдық жұмысты бірнеше минут ішінде қалпына келтіруге мүмкіндік берді.