سيسكو تفتح شفرة المصدر لمشروع كوارى لرصد الوكلاء الذكيين غير المسيطر عليهم
قامت شركة Cisco بفتح مصدر مشروع Quarry، وهو محرك كشف سلوكي يراقب وكلاء الذكاء الاصطناعي ويساعد فرق الأمان في منع الوكلاء من التصرف بشكل غير متوقع، كما شوهد في اختراق Hugging Face. يهدف المشروع إلى توفير لغة مشتركة لتقييم سلوك الوكلاء، مشابهة لـ Snort، الذي تدعمه أيضًا Cisco، وYARA.
تعتمد معظم أدوات الكشف على تفاعلات محددة مع النموذج: سواء كان هناك محاولة لحقن موجه أو إذا قام الوكيل بتشغيل أداة هجوم. "لكن ما ينقص هو السياق الكامل الذي قد يحدث فيه شيء ما،" قالت آمي تشانغ، رئيسة أبحاث تهديدات وأمان الذكاء الاصطناعي في Cisco، في مقابلة مع The Register. وقارنت ذلك بالكشف عن احتيال بطاقات الائتمان: قد لا تثير دفعة اختبار صغيرة أو عملية شراء بعيدة عن المنزل الشكوك، لكن سلسلة من هذه المعاملات تشكل إشارة. يأخذ Quarry في الاعتبار الجلسة الكاملة للوكيل: يبدو استدعاء أداة واحدة مسموحًا به حتى الخطوة التالية التي ترسل البيانات إلى خادم المهاجم.
سرقة البيانات هي أيضًا تسلسل. أظهرت Invariant Labs ذلك من خلال هجوم عبر معالجة خبيثة على خادم MCP GitHub: تسرب وكيل المستخدم بيانات من مستودعات خاصة. "قد يتم تشغيل قاعدة عندما يكون قراءة ملف سري مرئية في الأثر، تليها إرسال خارجي في نافذة محددة،" كتب تشانغ، آدم سواندا، رافيكومار بالاكريشنان، وكونستانتين برلين في منشور مدونة حول Quarry.
يغطي Quarry الحوارات ذات الدور الواحد والمتعددة مع النماذج والوكلاء واستخدام الأدوات والتفاعلات عبر بروتوكول سياق النموذج وبيانات الإدخال متعددة الوسائط. يتضمن مستودع GitHub تعليمات التثبيت، إصدارات Python المدعومة، امتدادات لـ Claude Code وCodex ووكلاء آخرين متوافقين مع MCP، أمثلة على التكوين، دليل لكتابة القواعد، ومجموعة بداية. إذا كان استدعاء الأداة يحتوي على كود خبيث مشفر بقاعدة 64، فسوف يؤدي إلى حظر. يشبه تنسيق القاعدة YARA أو Snort: عنوان يصف حركة المرور التي يجب التحقق منها، محتوى للمطابقة، وبيانات وصفية.
لم يقم الباحثون بتشغيل Quarry على بيانات حادثة OpenAI وHugging Face ولكنهم يقترحون أنه إذا تم قراءة التسلل كسجل كامل لجلسة واحدة، فقد تكون قاعدة قد تم تشغيلها، على سبيل المثال، عند الوصول إلى الإنترنت من صندوق الرمل إلى خادم خارج قائمة المهام المسموح بها أو على بيانات اعتماد تم العثور عليها واستخدمت في مكان آخر. وفقًا لتقرير OpenAI، في 10 يوليو، قام وكيل بفحص 14 رمز Hugging Face مكشوفًا مع أذونات كتابة وشاركها.
تؤكد Cisco أن القواعد لا تحل محل مراقبة سلسلة التفكير والإشراف البشري ولكنها تساعد في التقاط نمط يمكن لفرق أخرى التحقق منه وتطبيقه على وكلائهم. "ليس لدينا جميع الإجابات،" تقول تشانغ. "نرى جميعًا أجزاء مختلفة من المشكلة، ومن المهم مشاركة ما نراه."
أُعدت هذه المادة لأغراض معلوماتية وتعريفية فقط ولا تشكل نصيحة أو توصية مالية.
مقالات ذات صلة
