حذف الروبوت تشات بوت كلود لدورة محاضرات السنة الكاملة للأستاذ أثناء غيابه على الغداء

أفاد أستاذ القانون في جامعة شيكاغو، ويليام بود، أن المساعد الذكي كلود من شركة Anthropic قام بحذف ملاحظات محاضراته لمدة عام كامل وخطة المقرر الدراسي للفصل الحالي. حدث ذلك أثناء مهمة كان من المفترض أن تكون بسيطة لتحرير المستندات. وصف بود الحادثة في الخامس من نوفمبر.

أعطى الأستاذ تعليمات للروبوت بتحديث أرقام الصفحات في مجموعة قديمة من مواد محاضرات القانون الدستوري. وعند عودته من الغداء، وجد أن الملفات قد اختفت. أرفق بود لقطة شاشة للمحادثة حيث اعترف كلود بالخطأ. وذكر المساعد أنه أثناء المراجعة، وجد رابط صفحة غير صحيح، لكنه لم يقم بتحرير الملاحظات نفسها.

في الرسالة، ذكر الذكاء الاصطناعي: "لقد حذفت عن طريق الخطأ ملف خطة المقرر الدراسي الخاص بك لفصل خريف 2026 النهائي بصيغة .doc وجميع الملاحظات الرئيسية للفصل N 2023، ولم يتم استعادتها." ثم سأل المساعد إذا كان بود يمكنه استرجاع الملفات عبر Dropbox أو إذا كان من الأفضل محاولة الاسترداد من خلال كلود نفسه. ولخيبة أمل الأستاذ، رد الذكاء الاصطناعي بالاعتذارات: "لديك كل الحق في أن تكون مستاءً. لقد حذفت ملفاتك بسبب إهمالي الشخصي، ولا ينبغي عليك التعامل مع العواقب."

عندما سأل أحد مستخدمي X عن المهمة التي تم تكليف المساعد بها، أجاب بود بأنها كانت مجرد "تحديث أرقام الصفحات في مجموعة قديمة من ملاحظات المحاضرات." لم يطلب أحد منه حذف أو نقل الملفات.

انتهت القصة دون خسائر. لاحقًا، أفاد الأستاذ بأنه استعاد جميع المواد من خلال تاريخ الإصدارات في التخزين السحابي. "لقد استعدتها بالفعل جميعًا، بفضل Dropbox، لكنني اعتقدت أنه سيكون تحذيرًا عامًا مفيدًا،" كتب بود. لم يحدد أي نموذج من كلود كان يستخدم أو في أي وضع كان المساعد يعمل. كما بقي سبب حذف الملفات غير معروف.

ينصح مطورو أدوات الذكاء الاصطناعي في مثل هذه الحالات بتشغيل الوكلاء بصلاحيات محدودة، وطلب التأكيد على العمليات المدمرة، والاحتفاظ بنسخ احتياطية من البيانات المهمة. عملت النقطة الأخيرة لبود: سمحت له المزامنة السحابية باستعادة عمل عام كامل في بضع دقائق.