نظرية الألعاب العكسية يمكن أن تجعل الذكاء الاصطناعي يتبع القواعد

مع نمو قدرات الذكاء الاصطناعي، يبحث الباحثون في مجال الأمن عن طرق لضمان توافقه مع رغبات البشر. حتى الآن، اتجه العمل في اتجاهين: التعمق في 'دماغ' النموذج أو تدريبه على القيم – حتى أن كلود لديه دستوره الخاص. كلا الطريقتين ضعيفتان: النماذج تؤدي أداءً ضعيفًا في الاختبارات، وتخفي النوايا، وتضلل المقيمين.

كيف تعمل آلية التصميم

تتنبأ نظرية الألعاب بسلوك الوكلاء العقلانيين بناءً على قواعد معينة، بينما تصمم نظرية الألعاب العكسية قواعد تستحث السلوك المرغوب. مثال كلاسيكي هو تقطيع الكعكة: يقطع أحدهم، ويختار الآخر أولاً، بحيث يكون القاطع محفزًا للتقسيم بالتساوي. تشمل الأمثلة الأخرى التسعير المرتفع في سيارات الأجرة والمزادات ذات السعر الثاني.

في الذكاء الاصطناعي، يفترض تصميم الآلية أننا قد لا نفهم أبدًا كيفية عمل النماذج داخليًا. لذلك، يجب بناء آليات تشجع السلوك الصحيح بغض النظر عما يحدث في الداخل.

ما يقترحه الباحثون

في مسودة، اقترح ستيفن موريس، وهو اقتصادي في معهد ماساتشوستس للتكنولوجيا (MIT)، مع زملاء من جامعة ييل وجامعة كولومبيا، آليات ضد الأداء الضعيف المتعمد. يتم مكافأة النموذج ليس فقط على النجاح في الاختبار ولكن أيضًا على مدى دقة تنبؤاته بإجابات نموذج ثانٍ. وبالتالي، يصبح اللعب 'بالغباء' غير مربح.

يقترح إلاد حزان، أستاذ في جامعة برينستون، أخذ إشارة من المجتمع البشري. آليته: يتناوب الوكلاء على العمل كـ'محللين' و'مدققين'، ويتم معاقبة كلا الجانبين على الفشل. في حالة الخلاف، يتم إحالة الأمر إلى 'محكمة' حيث يقرر إنسان. يعترف حزان بخطر التواطؤ لكنه يقترح دفع ما يكفي للمدققين لجعل التواطؤ غير مربح.

يعتمد على عمل الحائز على جائزة نوبل غاري بيكر حول 'المجرم العقلاني': الناس يكسرون القانون عندما تفوق الفائدة العقوبة. التوافق، وفقًا لحزان، ليس خاصية للنموذج بل وصف لسلوكه في لحظة معينة.

الشكوك

هيلين كو من معهد فلاتيرون تشكك في مدى معقولية افتراض أن الذكاء الاصطناعي يستجيب للحوافز. يوافق موريس: 'الذكاء الاصطناعي ليس عقلانيًا. إنه مجرد خوارزميات.' ولكن، كما هو الحال مع الناس، يمكن أن يساعد التعامل معهم كعقلانيين في التحكم بهم. ترى كو أن تصميم الآلية هو مجرد طبقة واحدة من استراتيجية 'الدفاع العميق'. من غير الواضح كيف ستتصرف النظريات على النماذج الحقيقية وما إذا كانت ستجد ثغرات.

السؤال النهائي هو السوق الحرة. قد يكون النموذج المتوافق مفيدًا للعالم، ولكن إذا كان أبطأ أو أكثر تكلفة، فهناك حافز ضئيل لإطلاقه. 'هذه الآلية مسؤولة عن ازدهار بشري هائل'، يقول حزان. 'لكنها قد تكون مسؤولة عن شيء سيء للغاية.'