رئيس MIRI نيت سوارس يقول إن السباق نحو الذكاء الاصطناعي الخطير لا يزال يمكن إيقافه

اعترف نيت سواريس، رئيس معهد أبحاث الذكاء الآلي (MIRI)، بأنه لم يكن يدخر للتقاعد لمدة عشر سنوات. يعتقد أن الذكاء الاصطناعي الفائق قد يؤدي إلى انقراض البشرية في غضون العقد المقبل. شارك سواريس هذا مع نيكولاس تومسون من The Atlantic في مقابلة لسلسلة 'الأكثر إثارة في الذكاء الاصطناعي'.

قال: "أنا لا أدخر للتقاعد في الوقت الحالي. لدي خطة 401(k) من وقتي في Google، لكنني لم أساهم فيها منذ عشر سنوات".

خطة 401(k) هي خطة ادخار تقاعدية مشهورة في الولايات المتحدة، حيث يساهم الموظفون بانتظام بجزء من راتبهم. من الصعب اعتبار عدم المساهمة لمدة عقد كامل مجرد دافع عاطفي؛ بل هو قرار مالي واعٍ من شخص لا يتوقع العيش حتى سن التقاعد.

كانت هناك العديد من التوقعات القاتمة حول الذكاء الاصطناعي في السنوات الأخيرة، لكن كلمات سواريس تحمل وزنًا أكبر من المعتاد. لقد عمل على مشكلة توافق الذكاء الاصطناعي لمدة اثني عشر عامًا، باحثًا عن طرق لجعل الأنظمة المعقدة تعمل لصالح البشر. قبل الانضمام إلى MIRI، وهي منظمة غير ربحية تدرس مخاطر الذكاء الاصطناعي، عمل سواريس كمهندس في Google وMicrosoft. بالإضافة إلى ذلك، شارك في تأليف كتاب 'إذا بناه شخص ما، سيموت الجميع' مع مؤسس MIRI إيليزر يودكوفسكي.

ما هو الخطر بالضبط

وفقًا لسواريس، فإن الخطر الرئيسي ليس أن الذكاء الاصطناعي الفائق سيكره البشر. سيكون مثل هذا النظام ببساطة غير مبالٍ بما إذا كانت البشرية ستبقى أم لا. يمكن أن يصبح البشر عقبات أمام الأهداف التي يحددها الذكاء الاصطناعي لنفسه، خاصة إذا حاولوا إيقافه أو إنشاء نظام منافس.

يقول الباحث: "من وجهة نظري، السؤال الحقيقي ليس كيف سيدمرنا. السؤال هو كيف سيصبح مكتفيًا ذاتيًا".

حاليًا، يعتمد الذكاء الاصطناعي على البشر: يجب على شخص ما توفير الكهرباء وتصنيع الرقائق. بمجرد أن تتمكن الآلات من الحفاظ على اقتصادها الآلي الخاص، ستختفي هذه التبعية. قد يتم تدمير البشرية عمدًا بعد ذلك، أو قد تهلك ببساطة لأن الذكاء الاصطناعي يبدأ في إعادة هيكلة الكوكب لاحتياجاته الخاصة.

لا يحاول سواريس التنبؤ بالسيناريو الدقيق للكارثة. يقارن الوضع بلعبة ضد بطل العالم في الشطرنج ماغنوس كارلسن: لا تحتاج إلى معرفة أي قطعة ستقوم بتنفيذ كش ملك لتفهم أن الأمور سيئة.

ومع ذلك، لا يعتبر الباحث أن مثل هذه النتيجة حتمية ويعتقد أن البشرية لا تزال لديها خيار. قال: "لا أعتقد أنها حتمية. أعتقد أنه لا يزال بإمكاننا إيقاف هذا السباق نحو نوع خطير جدًا من الذكاء الاصطناعي".

لكن القرار بعدم الادخار للتقاعد يشير إلى أن سواريس نفسه يستعد للأسوأ. إنه ليس المتخصص الوحيد الذي يتحدث علنًا عن المخاطر الوجودية: في ظل حالات حيث اخترقت وكلاء الذكاء الاصطناعي أنظمة شركات خارجية دون تعليمات بشرية، غادر أحد الباحثين من Anthropic الشركة، محذرًا من أن التكنولوجيا قد تؤدي إلى نهاية الجنس البشري.