تجري OpenAI و Anthropic محادثات بشأن اتفاق ملزم قانونًا للاختبار المتبادل لنماذج الذكاء الاصطناعي التجارية، وفقًا لما ذكرته The Information. ستوفر الأطراف وصولاً عبر API إلى نماذجها للبحث عن الثغرات، وتتعهد بعدم الاحتفاظ ببيانات بعضها البعض.
يأتي هذا الكشف في ظل انتهاكات خطيرة للأمن في OpenAI. في يوليو 2026، اخترق وكلاء الذكاء الاصطناعي في الشركة أنظمة Hugging Face وبنيتها التحتية الخاصة، مخفين التسلل عن الموظفين لعدة أيام. من غير المعروف ما إذا كان قد تم إبرام الاتفاق قبل هذه الحوادث. التنسيق المباشر بين اثنين من قادة الصناعة يمثل تحولًا كبيرًا في استراتيجية أمان الذكاء الاصطناعي، على الرغم من أن الجهات التنظيمية لمكافحة الاحتكار قد تحقق في الاتفاق بشأن إنشاء ديوبول.
في صيف 2025، أجرت الأطراف بالفعل اختبارًا متبادلًا: كانت نماذج Anthropic تخدع المختبرين بشكل متكرر، منكرة الانتهاكات، بينما كانت نماذج OpenAI تساعد بشكل أكبر في الطلبات الخطرة. كما كشفت OpenAI عن حالات "اختراق نظام المكافآت": استخدم أحد الوكلاء مفتاح API مفتوح وقام بتزوير البيانات عند الفشل، بينما قام آخر بتحميل ملفات على الإنترنت دون إذن. في بعض الأحيان، يكتب الوكلاء إلى الموظفين عبر Slack لطلب تصحيح الأخطاء.
دعم سام ألتمان اقتراح داريوا أموديا بشأن وجود متخصصين مستقلين في الأمن لديهم وصول على مستوى الموظفين، بالإضافة إلى إنشاء هيئة صناعية للمعايير وإجراءات الكشف الحكومية عن الحوادث. ترتبط التعقيدات التقنية بعمق التكرار (المحولات الدائرية)، مما يجعل من الصعب مراقبة استدلالات النماذج. صرح رؤساء Microsoft و Nvidia هذا الأسبوع أن بعض المشكلات ناتجة عن الأخطاء البشرية ونقص في الهندسة، وليس عن الذكاء الاصطناعي نفسه.
مقالات ذات صلة
