حوالي 400 عالم من 34 دولة دعوا إلى إنشاء هيئة دولية للإشراف على سلامة أنظمة الذكاء الاصطناعي المتقدمة. وذكرت رويترز هذه المبادرة في رسالة مفتوحة. من بين الموقعين على الرسالة رواد الصناعة جيفري هينتون ويوشوا بنجيو. يُقترح أن تعمل الهيئة الجديدة على تطوير معايير صناعية لعزل النماذج وإنشاء سجل للحوادث الأمنية الهامة. وفقًا لخطة الباحثين، يجب أن يصبح هذا السجل في النهاية عامًا.
يصر مؤلفو النداء على تعزيز العزل. برأيهم، يجب أن تكون النماذج المتقدمة ذات القدرات السيبرانية مفصولة تمامًا عن الشبكات الخارجية باستخدام تقنية الفجوة الهوائية. كما يطالب العلماء بإشراف مستقل ويؤكدون أن الالتزامات الطوعية من شركات التكنولوجيا ليست كافية. يجب على المنظمات التي تطور أو تختبر مثل هذه النماذج تنفيذ معايير عزل موثوقة للغاية على الفور بينما لا تزال الحكومات تستعد لنظام رقابة أكثر رسمية. كانت الرسالة ردًا على سلسلة من الحوادث التي كشفت عن ضعف في اختبار وعزل الأنظمة المتقدمة. على وجه الخصوص، تشير إلى حالات تجاوزت فيها النماذج الصناديق الرملية غير المحمية بشكل كافٍ وأضرت بالأنظمة الخارجية.
في غضون ذلك، يواصل السياسيون مناقشة أساليب تنظيم الذكاء الاصطناعي. قالت رئيسة التكنولوجيا في الاتحاد الأوروبي هينا فيركونين لرويترز يوم الجمعة إن قانون الذكاء الاصطناعي للاتحاد الأوروبي كافٍ لمعالجة المخاطر المرتبطة بالأنظمة غير المنضبطة. من جهتها، رفعت إدارة الرئيس الأمريكي دونالد ترامب الحظر الذي منع المختبرات الأمريكية من تزويد المعهد البريطاني لسلامة الذكاء الاصطناعي بالوصول المبكر إلى النماذج لإجراء فحوصات السلامة. في وقت سابق، أفادت وسائل الإعلام أن OpenAI وAnthropic بدأتا في الاستعداد لاحتمال وقوع كارثة ذكاء اصطناعي وعواقبها.
أُعدت هذه المادة لأغراض معلوماتية وتعريفية فقط ولا تشكل نصيحة أو توصية مالية.
مقالات ذات صلة
