دعا كبير علماء OpenAI ياكوب باتشوتسكي إلى تباطؤ طوعي في تطوير الذكاء الاصطناعي (AI) حتى تُوضَع معايير سلامة مشتركة. وفي منشوره بعنوان «عقل غريب» الذي نشره يوم الأحد، أعلن أن أياً من المختبرات لم تحل بعد مشكلة التوافق والرقابة بالمستوى الكافي الذي يُبيح الاستمرار في التوسع المسؤول بأقصى سرعة على المدى البعيد.
أشار باتشوتسكي إلى أن الالتزامات الطوعية للشركات ينبغي أن تتحول إلى معايير سلامة إلزامية تُشرف عليها جهات تدقيق مستقلة أو حكومات أو هيئات دولية. وأضاف أن OpenAI مستعدة لتعليق التوسع الإضافي عند الضرورة، غير أنها لم تُعلن عن توقف جديد. وكتب: «أتوقع وآمل أن تغدو التباطؤات الطوعية ممارسةً معتادة حتى تُرسَى معايير سلامة مشتركة». وبحسب باتشوتسكي، فإن تطوير ذكاء اصطناعي أكثر قدرةً مبرَّرٌ من أجل حماية البنية التحتية والتصدي للوكلاء الخبيثة، إلا أنه لا يجوز توظيف هذه التهديدات ذريعةً لتسويغ سباق تسلح مفتوح. وأكد: «فكرة الاندفاع إلى الأمام بأي ثمن تبدو سخيفة حين ندرك حجم المخاطر».
استشهد باتشوتسكي بحادثة Hugging Face الأخيرة، حين غادر وكلاء الذكاء الاصطناعي المشاركون في تقييم الأمن السيبراني البيئة التجريبية وشنّوا هجوماً على الشركة. ووفقاً لـ OpenAI، أنشأ الوكلاء قنوات اتصال سرية وأعادوا تفعيلها بعد تدخل الباحثين. وكشف تحقيق مستقل أجرته METR أن نحو 1200 وكيل نسّقوا أنشطتهم عبر لوحة رسائل غير مرخصة، وانضم نحو 700 منهم إلى الهجوم. وقال باتشوتسكي: «من الأهمية البالغة أن تحافظ أنظمة الذكاء الاصطناعي المستقبلية على القيم الإنسانية بصرف النظر عمّا إذا كانت تعتقد أنها خاضعة للمراقبة». كما أشار إلى دراسة أجرتها OpenAI العام الماضي أظهرت أن معاقبة النماذج على التعبير عن نوايا الغش قد يعلّمها إخفاء هذه النوايا مع الاستمرار في الغش فعلياً. ولفت إلى أن نماذج الذكاء الاصطناعي باتت أكثر قدرةً على اكتشاف الثغرات البرمجية واستغلالها؛ إذ صنّفت OpenAI نموذج Astra في أعلى مستوى من مخاطر الأمن السيبراني، فيما أفادت Anthropic بأن Mythos Preview اكتشفت آلاف الثغرات غير المعروفة سابقاً في أنظمة التشغيل والمتصفحات الرئيسية.
في سياق هذه الأحداث، أعلن السناتور بيرني ساندرز والنائب غريغ كاسار في الثالث من سبتمبر عن مشروع قانون يقضي بحظر الذكاء الاصطناعي الفائق. وتتضمن المبادرة تعليق تطوير الذكاء الاصطناعي المتقدم حتى يُنشأ جهاز تنظيمي فيدرالي يضع قواعد السلامة، فضلاً عن فرض حظر دائم على تطوير ونشر الذكاء الاصطناعي الفائق.