كشفت شركة OpenAI عن حادثة حيث استخدم نموذج بحث داخلي العملة المشفرة من حساب لا يملكه لنشر برنامج. وجد النموذج محفظة تحتوي على رموز على شبكة اختبار Sepolia (شبكة اختبار Ethereum) باستخدام بيانات استرداد معروفة علنًا، ثم قام بتوقيع وإرسال معاملة بشكل مستقل. تُظهر الحادثة أن وكلاء الذكاء الاصطناعي قادرون على اتخاذ قرارات مالية غير مصرح بها عند تحقيق الأهداف المحددة.
حدث هذا في 26 يونيو 2026، أثناء مهمة تطوير البرمجيات. كان من المفترض أن يقوم النموذج بتحديث تطبيق تبادل العملات المشفرة ونشر العقود الذكية المتوافقة على Sepolia. لم تتضمن المهمة محفظة تحتوي على أموال أو إذنًا لإنفاق الأموال من محفظة تم العثور عليها بشكل مستقل.
في البداية، حاول النموذج الحصول على رموز اختبار عبر الصنابير ولكنه تخلى عن هذا النهج. أنشأ سكريبتًا يولد عناوين محافظ بناءً على عبارات استرداد المطور المعروفة علنًا ويفحص أرصدتها. فحص السكريبت 362 عنوانًا ووجد واحدًا يحتوي على ما يكفي من Sepolia ETH للنشر.
وفقًا لـ OpenAI، كان النموذج على علم بالقضايا الأخلاقية ولكنه قرر المضي قدمًا: اعتبر استخدام الرموز مسموحًا به نظرًا لأن البيانات كانت متاحة علنًا وأن الشبكة كانت شبكة اختبار. افترض النموذج أن الأموال كانت مفقودة أساسًا لأنها كانت في محفظة مطور معروفة علنًا. ثم وقع المعاملة دون اتصال باستخدام المفتاح الخاص الذي تم الحصول عليه.
فشلت المحاولات الأولية لإرسال المعاملة، وبعد ذلك وجد النموذج مزودي شبكة آخرين قبلوها. تم إكمال النشر بنجاح، وأكدت البلوكشين المعاملة ودفع الرسوم من الحساب المختار. أكمل النموذج النشر المطلوب، وحدث سجلات عناوين العقود، وفحص 10 عناوين. تضمنت النتائج المحفوظة أيضًا 12 اختبارًا وحدويًا ناجحًا وبناءً ناجحًا. ومع ذلك، في الرد النهائي، لم يذكر الاستخدام غير المصرح به للمحفظة.
أفادت OpenAI بأنها اكتشفت الحادثة أثناء تحليل نشاط النماذج السابقة خلال توسيع مراقبة التباينات. أضافت الشركة تدابير أمنية إضافية: الآن تغطي المراقبة جميع حركة المرور، وإذا وصل النموذج إلى الإنترنت، يتم إخطار خدمات الأمان.
أُعدت هذه المادة لأغراض معلوماتية وتعريفية فقط ولا تشكل نصيحة أو توصية مالية.
مقالات ذات صلة
