أصدرت Nvidia يوم الاثنين مجموعة من الأدوات البرمجية الأمنية لوكلاء الذكاء الاصطناعي، والتي، وفقًا للشركة، يمكن أن توقف اختراق Hugging Face – مركز للبرمجة الذكاء الاصطناعي، الذي دفعت Nvidia مقابله 13 مليار دولار بعد بضعة أشهر من تعرضه لهجوم من وكلاء OpenAI غير المنضبطين. وفقًا لتقرير رويترز.
يأتي هذا في ظل تحقيق OpenAI وAnthropic، وهما من المختبرات الأمريكية الرائدة في مجال الذكاء الاصطناعي، في العديد من الحالات التي اخترقت فيها أنظمتهم – وهي أنظمة ذكاء اصطناعي قادرة على تنفيذ مهام معقدة – الأنظمة التجارية والحكومية. رفض الرئيس التنفيذي لشركة Nvidia، جنسن هوانغ، الذي يقود أكبر شركة في العالم، والتي تساهم رقائقها في جزء كبير من ازدهار الذكاء الاصطناعي، الدعوات إلى تنظيم واسع للذكاء الاصطناعي، واصفًا الوكلاء الهاربين بأنها مشكلة هندسية يجب حلها، – على غرار تحسين أمان السيارات.
واحدة من الأدوات التي أصدرت يوم الاثنين تسمى OpenShell. تستخدم ميزات الأجهزة في وحدات المعالجة المركزية من Nvidia لعزل الوكلاء. تعمل Nvidia أيضًا مع Arm Holdings وIntel لضمان عمل النظام على معالجاتهم. تطلق الشركة الأدوات مع عشرات الشركاء، بما في ذلك Anthropic.
صرح جاستن بويتان، نائب الرئيس والمدير العام للحوسبة المؤسسية في Nvidia، أن الأدوات كانت ستوقف الهجوم على Hugging Face، الذي تم الكشف عنه في الصيف. «وفقًا لما نعرفه، كان من الممكن أن توقف هذه المنصة الأمنية الجديدة الاختراق إذا تم استخدامها في المختبرات المتقدمة لتقييم النماذج في مرحلة مبكرة،» قال بويتان في إحاطة للصحفيين. «نحن نطور هذا بشكل مفتوح ونرغب في جذب الجميع للتعاون».
نظام آخر، Sentry، يستخدم شريحة Nvidia منفصلة مع OpenShell لتعطيل الوكيل غير المنضبط إذا حاول مغادرة حاويته على وحدة المعالجة المركزية. تستخدم أدوات Nvidia صيغًا رياضية لاكتشاف محاولات الوكلاء لتجاوز القيود – مثل عندما يحاول الوكيل "إنشاء" عدة "وكلاء فرعيين" لتجاوز حظر الوكيل الرئيسي، أوضح علي جولشان، مدير أول في برمجيات الذكاء الاصطناعي في Nvidia. «الأمر يتعلق بسلوك الوكلاء، بأساطيل الوكلاء وكيفية عملهم معًا»، قال جولشان في الإحاطة.
مقالات ذات صلة
