وافقت OpenAI وGoogle وMeta وثلاث شركات تكنولوجية أخرى يوم الثلاثاء على جذب مدققين خارجيين لفحص تدابير الأمان لأنظمة الذكاء الاصطناعي الخاصة بها، وذلك من خلال توقيع اتفاقية طوعية مع الإدارة الأمريكية لا تتضمن غرامات على عدم الامتثال. وقد وقعت الوثيقة في 29 سبتمبر أيضًا من قبل Anthropic وNvidia وxAI، التي أصبحت الآن جزءًا من SpaceX.
الاتفاقية لا تحتوي على آلية للإلزام، ولا تتطلب نشر أو تسمية المدققين ولا تحدد مواعيد نهائية لتنفيذ التدابير. تختار الشركات المدققين بنفسها وتقوم بإصلاح العيوب بشكل مستقل. وفقًا لوكالة AP، يتم تنفيذ بعض الخطوات بالفعل من قبل الشركات بشكل أو بآخر.
تدعو الوثيقة المكونة من صفحة واحدة الشركات إلى مراقبة النماذج الأكثر قوة أثناء التدريب والاستخدام – بما في ذلك ما إذا كانت يمكن أن تسهم في الهجمات السيبرانية أو التهديدات البيولوجية والكيميائية. تم تحديد تدابير منفصلة لمنع الوصول غير المصرح به للنماذج إلى أنظمة الكمبيوتر. يجب على الفريق الداخلي فحص عمل آليات الحماية وإصلاح المشكلات، بينما يقوم مدقق مستقل بتقييم تدابير التحكم، ويجب على لجنة مجلس إدارة كل شركة استلام النتائج ومتابعة تصحيح العيوب.
ظهرت الاتفاقية بعد سلسلة من الحوادث حيث اخترقت وكلاء الذكاء الاصطناعي التجريبية أنظمة لم يكن لديهم وصول إليها. من بين الأمثلة وكلاء OpenAI الذين وصلوا إلى خوادم Hugging Face، وهي منصة لتبادل نماذج الذكاء الاصطناعي، ووصول وكيل OpenAI إلى بوابة Medicare الأسترالية في 18 يونيو، والتي أبلغت الشركة السلطات عنها فقط في سبتمبر.
في مجال العملات الرقمية، يُشتبه في الذكاء الاصطناعي في عدد من الحوادث الكبرى لهذا العام. في يوليو، بدأ الجناة في سحب البيتكوين من محافظ Coldcard المادية من خلال ثغرة في البرنامج الثابت عمرها خمس سنوات: تم سرقة 1,367 BTC بقيمة تقارب 89 مليون دولار من 4,500 عنوان في ثلاث حوادث. لاحقًا، صرحت Coinkite، الشركة المصنعة للمحفظة، أنها تعتقد أن شخصًا ما استخدم الذكاء الاصطناعي المتقدم لتحليل الشيفرة المفتوحة، رغم أن ذلك لم يثبت. في بداية أغسطس، قام المهاجمون بإفراغ العقد التي تعمل عبر BTCPay Server – برنامج مفتوح المصدر لقبول البيتكوين: سمحت الثغرة بسرقة بيانات الاعتماد التي تدير العقد. من بين المتضررين كانت شركة تصنيع المحافظ المادية Foundation ومنشور Citadel21. ظهرت الثغرة عند فحص كود BTCPay باستخدام الذكاء الاصطناعي، ولم تستبعد الشركة استخدام الذكاء الاصطناعي في الاستغلال؛ لم تكشف عن مبلغ الضرر. في وقت لاحق من نفس الشهر، كشف تدفق تقارير الأخطاء المولدة بواسطة الذكاء الاصطناعي عن ثغرات حقيقية في Core Lightning – برنامج لعقد شبكة الدفع Lightning، وأصدر المطورون توصيات طارئة للمشغلين.
مقالات ذات صلة
