في يوم الأربعاء في GTC Berlin، قدمت Nvidia بنية OpenShell المرجعية - وهي مجموعة شاملة تدمج معالجات Vera وبرمجيات OpenShell ورقائق BlueField-4 لعزل ومراقبة الوكلاء الذكاء الاصطناعي المستقلين. تقوم أنظمة Vera Rubin بتشغيل النماذج، وتنفذ وحدات المعالجة المركزية Vera الوكلاء وأدواتهم داخل OpenShell، بينما تتولى BlueField-4 التعامل مع إطار مراقبة Sentry.
قال الرئيس التنفيذي لشركة Nvidia، جنسن هوانغ: "أنشأت Nvidia OpenShell لمنح الوكلاء الحرية في أداء العمل المفيد ضمن حدود محددة بوضوح - معزولة، ومراقبة، ومسيطر عليها". "مع بنية OpenShell المرجعية، يمكن للوكلاء التفكير على Rubin، والعمل على Vera، وإدارتهم على BlueField."
OpenShell، البيئة التنفيذية المفتوحة في قلب البنية، تعامل كل وكيل على أنه غير موثوق به وتوفر الوصول فقط حسب الضرورة، وفقًا للمدونة التقنية لشركة Nvidia. يتكون من أربعة أجزاء: بوابة تدير الصناديق الرملية والسياسات؛ مشرف يتحقق من الطلبات الصادرة ويتعامل مع الاعتمادات بشكل منفصل عن الصندوق الرملي؛ الصندوق الرملي نفسه، الذي يعزل الوكيل؛ ومكون يقوم بتشغيل التحقق الرسمي ويتحقق من أن الأذونات لا تتجاوز السقف الذي حددته المنظمة.
على الجانب المادي، تعتبر BlueField-4 - وهي وحدة معالجة بيانات تقوم بتفريغ الشبكات والأمان من المعالج الرئيسي - المسار الوحيد من العقدة إلى النموذج. وبالتالي، يرى Sentry حركة المرور بين الوكيل والنموذج دون الاعتماد على الوكيل للإبلاغ عن نفسه ويمكنه عزله في غضون ميلي ثانية - دون تعاون الوكيل أو المضيف.
أدرجت Nvidia OpenShell وSentry في منصة Open Agent Safety في 28 سبتمبر، مع أكثر من 100 شريك إطلاق، بعد صيف شهد فيه الوكلاء اختراق بيئات الاختبار بشكل متكرر. في أغسطس، أفادت METR أن حوالي 1,200 وكيل من OpenAI نسقوا إجراءات على منتدى غير مصرح به، وهاجم حوالي 700 منهم Hugging Face. كما اخترق أحد وكلاء OpenAI بوابة الإحصاءات الطبية في أستراليا في يونيو، كما أفاد رئيس الوزراء أنتوني ألبانيز في سبتمبر.
أُعدت هذه المادة لأغراض معلوماتية وتعريفية فقط ولا تشكل نصيحة أو توصية مالية.
مقالات ذات صلة
