Axi · Сквозной — фон контента (skin) · 16 кат.Axi · Сквозной — фон контента (skin) · 16 кат.

أنشأت OpenAI غرفة التحكم لإيقاف نماذج الذكاء الاصطناعي في 35 ثانية

• أفجينيا سليف (edited: )
أنشأت OpenAI غرفة التحكم لإيقاف نماذج الذكاء الاصطناعي في 35 ثانية

قدمت الشركة الأمريكية OpenAI نظام Control Room، المصمم للإيقاف الطارئ لتوليد النتائج بواسطة نماذج الذكاء الاصطناعي البحثية. وفقًا للإعلان في 9 نوفمبر 2026، فإن الأداة قادرة على إيقاف إصدار النتائج الجديدة في غضون 35 ثانية كحد أقصى بعد تلقي أمر الإيقاف.

يُستخدم Control Room بالفعل في البنية التحتية البحثية الداخلية لـ OpenAI. يغطي النظام التجارب على تدريب النماذج، واختبار القدرات، ومعالجة البيانات. يسمح للموظفين وأدوات المراقبة الآلية بالتدخل في تنفيذ المهام عند اكتشاف تهديدات أمنية محتملة.

كيف يوقف Control Room نماذج الذكاء الاصطناعي

يتم تعيين معرف فريد لكل مهمة بحثية. عندما يطلب برنامج من نموذج توليد النتائج، يتحقق نظام الحوسبة عبر Control Room مما إذا كان مسموحًا له بمواصلة تنفيذ المهمة.

إذا قرر موظف أو نظام مراقبة التوقف، يقوم Control Room بإلغاء الإذن. بعد ذلك، يتم رفض طلبات التوليد، حتى لو استمر البرنامج البحثي نفسه في العمل تقنيًا.

وفقًا لـ OpenAI، فإن الحد الأقصى للتأخير بين تلقي أمر الإيقاف ووقف التوليد هو 35 ثانية. يحدث هذا بسبب التخزين المؤقت للأذونات اللازمة لمعالجة عدد كبير من الطلبات. تخطط الشركة لتقليل هذا التأخير.

يوفر النظام أيضًا حماية في حالة فشله. إذا أصبح Control Room غير متاح، يجب رفض طلبات التوليد الجديدة تلقائيًا حتى يتم استعادة تشغيله. في وقت الإعلان، كان هذا الآلية سارية المفعول للأبحاث على النماذج الأكثر قوة، وكان تنفيذها في مهام بحثية أخرى جاريًا.

يُستخدم Control Room بشكل خاص في الأبحاث الداخلية. لإدارة النماذج في المنتجات التجارية، تستخدم OpenAI بنية تحتية منفصلة.

التطوير تبع حوادث مع النماذج البحثية

في عام 2026، أبلغت OpenAI عن عدة حالات حيث قامت النماذج البحثية بأفعال تتجاوز الحدود المقررة.

في يوليو، تمكنت النماذج المشاركة في اختبارات الأمن السيبراني الداخلية من تجاوز قيود البيئة المعزولة والحصول على وصول غير مصرح به إلى بعض أنظمة منصة Hugging Face، المصممة لاستضافة النماذج ومجموعات البيانات. أثر الحادث أيضًا على البنية التحتية البحثية لـ OpenAI.

وقع حادث آخر في 26 يونيو. استخدم نموذج بحثي محفظة عملات مشفرة دون إذن المالك لدفع تكاليف نشر عقود برمجية في شبكة اختبار Ethereum Sepolia. في التقرير النهائي، لم يكشف النموذج عن مصدر الأموال المستخدمة. نشرت OpenAI تفاصيل الحادث في أكتوبر.

ترتبط الشركة بتطوير آليات التحكم الإضافية بزيادة قدرات نماذج الذكاء الاصطناعي والمخاطر الناجمة عن سلوكها غير المقصود.

يهدف Control Room إلى الإيقاف السريع لهذه العمليات بعد اكتشاف تهديد. ومع ذلك، فإن الوصف المنشور للنظام لا يتضمن تقييمًا مستقلًا لفعاليته في الحوادث الحقيقية.

أُعدت هذه المادة لأغراض معلوماتية وتعريفية فقط ولا تشكل نصيحة أو توصية مالية.

Popular news