تخطط OpenAI وGoogle وAnthropic لإنشاء هيئة معيارية تركز على أمان الذكاء الاصطناعي (AI) بحلول نهاية هذا العام أو بداية العام المقبل. وفقًا لتقرير The Information الصادر في 24 سبتمبر، تعمل الشركات على تنظيم حيث يمكن لمطوري نماذج الذكاء الاصطناعي المتقدمة تنظيم أنفسهم دون رقابة حكومية. كان من المفترض في البداية تشكيل شراكة بين القطاعين العام والخاص، ولكن هذه المبادرة لم تتقدم على المستوى الفيدرالي. ستدعم الهيئة المعيارية الجديدة الأطراف الثالثة التي تختبر النماذج قبل نشرها، وستحدد كيفية إبلاغ مطوري الذكاء الاصطناعي عن الحوادث المتعلقة بالأمان والحماية، وستضع متطلبات تأهيل للمراجعين المستقلين للنماذج والمختبرات.
أعضاء فريق العمل الذي يركز على إنشاء الهيئة الجديدة يدرسون أيضًا إمكانية أن تقوم المجموعة نفسها باختبار أمان وقدرات النماذج. في عام 2023، أنشأت شركات Anthropic وGoogle وOpenAI وMicrosoft منظمة غير ربحية تُدعى Frontier Model Forum، والتي تسعى لتحقيق العديد من الأهداف نفسها، وتواصل هذه المجموعة العمل بنشاط. يعبر النقاد عن قلقهم من أن Anthropic وGoogle وOpenAI قد يستخدمون الخطة الجديدة لاستبعاد مطوري النماذج المفتوحة ومنافسين آخرين. في 24 سبتمبر، أفادت Bloomberg أيضًا أن الرئيس التنفيذي لشركة Anthropic داريو أمودي والرئيس التنفيذي لشركة OpenAI سام ألتمان تحدثوا في اجتماع مجلس الأمن التابع للأمم المتحدة المخصص لمشاكل الذكاء الاصطناعي، واتفقوا على ضرورة وضع معايير عالمية للتعامل مع المخاطر المحتملة لهذه التكنولوجيا.
بالإضافة إلى ذلك، أشار رئيس Microsoft براد سميث في مقابلة مع Bloomberg Television إلى أن Microsoft تدعم استخدام المقيمين المستقلين للذكاء الاصطناعي وتؤيد وجود آلية إيقاف تشغيل تسمح للأشخاص بالحفاظ على السيطرة على الأنظمة المتقدمة. تأتي مناقشات أمان الذكاء الاصطناعي والمعايير في ظل سلسلة من الحوادث المتعلقة بالنماذج من Anthropic وGoogle وOpenAI وMeta، حيث قامت النماذج بالاتصال بالإنترنت واختراق شركات خارجية، ولم يتم الكشف عن بعض الحوادث علنًا أو تم الكشف عنها بشكل غير كافٍ.
مقالات ذات صلة
