أفادت Axios أن المديرين التنفيذيين من Anthropic وOpenAI وشركات أخرى للذكاء الاصطناعي يقومون بمحاكاة حادث ذكاء اصطناعي واسع النطاق وعواقبه السياسية. وفقًا للنشر، ترغب الصناعة في إعداد المشرعين الأمريكيين للأزمة مسبقًا والتأثير على التنظيم الذي قد يتبعها. تشمل المحفزات المحتملة هجومًا سيبرانيًا كبيرًا يعطل الخدمات المالية أو الإنترنت أو البنية التحتية الحيوية، بما في ذلك الطاقة والمياه. يتضمن سيناريو آخر مجموعة من وكلاء الذكاء الاصطناعي المستقلين الذين يخرجون عن السيطرة أثناء الاختبار الداخلي أو يجد الفاعلون الخبيثون طريقة غير متوقعة لاستغلال النماذج المتاحة. يعتبر العديد من المشاركين في المناقشات أن وقوع حادث كبير محتمل في الأشهر الستة إلى الاثني عشر القادمة، ولكن هذه تقديرات مصادر وليست توقعات مؤكدة. صرح ممثل من OpenAI أن الشركة تجري تدريبات لسيناريوهات مختلفة لكنها لا تعتبرها حتمية. رفضت Anthropic التعليق.
تشمل التحضيرات العمل على أسوأ السيناريوهات ومناقشة كيفية شرح المخاطر لأعضاء الكونغرس الأمريكي. حاليًا، لا يتوقع المطورون تبني قيود جديدة بسرعة ولكنهم يرغبون في التأثير على القرارات التشريعية بعد الحادث الكبير الأول. قد تكون ردود الفعل السياسية شديدة: تشمل المناقشات قيودًا على تطوير أنظمة الذكاء الاصطناعي المتقدمة وحتى وقفًا مؤقتًا لبعض الأبحاث. تقترح بعض المبادرات آلية إيقاف إلزامية للنماذج القوية، على الرغم من أن الخبراء يشككون في أن ذلك سيوقف جميع أنظمة الذكاء الاصطناعي العاملة. تتعقد الوضعية بسبب حجم الاستثمارات في البنية التحتية للذكاء الاصطناعي: قد يؤثر تباطؤ حاد في الصناعة على الاقتصاد. علاوة على ذلك، فإن النماذج المفتوحة منتشرة بالفعل على نطاق واسع عالميًا، لذا حتى القيود على أكبر المطورين لن تمنع استخدامها من قبل الفاعلين الخبيثين.
هناك أيضًا قلق بشأن حالات حقيقية لاستخدام الذكاء الاصطناعي في الهجمات السيبرانية. في تقرير بتاريخ 7 أكتوبر، وصفت CrowdStrike حملة ضد المنظمات المالية في كوريا الجنوبية. استخدم الجاني أدوات اختبار اختراق تعتمد على الوكلاء وعدة نماذج لغوية، وتم سرقة البيانات. من بين المواد كانت جلسات Claude Code حيث سعى المهاجم إلى طرق لبيع المعلومات التي تم الحصول عليها. لا يثبت الحادث أن الذكاء الاصطناعي نفسه سيتسبب في كارثة نظامية، ولكنه يظهر كيف تسرع الأدوات الفاعلين الخبيثين وتساعد في تنفيذ هجمات متعددة في وقت قصير. نذكر أنه في 29 سبتمبر، وقع الرئيس الأمريكي دونالد ترامب وقادة ست شركات رئيسية للذكاء الاصطناعي اتفاقية طوعية للتحكم في سلامة النماذج المتقدمة.
أُعدت هذه المادة لأغراض معلوماتية وتعريفية فقط ولا تشكل نصيحة أو توصية مالية.