أطلقت الشركة البريطانية Darktrace Holdings Ltd. منتج SECURE AI للجمهور، من خلال دمج الكشف السلوكي في الاستخدام المؤسسي لأدوات ووكالات الذكاء الاصطناعي. تُظهر بيانات تقريبية من حوالي 8,200 نشر لـ Darktrace أن أكثر من 80% من الحسابات المتعقبة للعملاء استخدمت الذكاء الاصطناعي التوليدي في أغسطس، بينما تفاعلت المنظمة المتوسطة مع خمسة مزودين للذكاء الاصطناعي خلال الشهر.
قدمت الشركة ثلاث أمثلة. وافقت إحدى المنظمات على مساعد ذكاء اصطناعي واحد، لكن معظم الموظفين استخدموا خدمات غير مصرح بها. في حالة أخرى، تم إنشاء ما يقرب من 90 وكيل ذكاء اصطناعي في بيئة التطوير دون إجراء موافقة. أدى الاستخدام غير المنضبط للذكاء الاصطناعي من قبل المتعاقدين في الحالة الثالثة إلى مراجعة قانونية.
يستخدم SECURE AI نفس أسلوب التحليل السلوكي مثل المنتجات الأخرى لـ Darktrace. في النسخة العامة، تم تنفيذ التكامل مع Amazon Web Services وAnthropic وMicrosoft وOpenAI. يتم مسح الجلسات في ChatGPT Enterprise وClaude وMicrosoft Copilot وAmazon Bedrock في الوقت الحقيقي بحثًا عن الاختراقات وتسريبات البيانات وحقن الإرشادات غير المباشرة. يتم تعيين تصنيف مخاطر لكل جلسة.
يعتمد اكتشاف الذكاء الاصطناعي الخفي على التكامل مع Microsoft Entra Global Secure Access. يمكن للمسؤولين حظر الخدمات غير المصرح بها أو وضع الجهاز في الحجر الصحي، بالإضافة إلى تحميل سياسات الذكاء الاصطناعي الخاصة بهم للتحقق من الامتثال. يمتد التغطية إلى بيئات التطوير – Amazon Bedrock وMicrosoft Copilot Studio.
قال إيد جينينغز، رئيس ومدير تنفيذي لـ Darktrace، "الذكاء الاصطناعي يدمر هذا النموذج"، مشيرًا إلى النهج السابق في تصنيف التهديدات. وفقًا له، فإن الإشارة المهمة هي اللحظة التي "تبدأ فيها الأشياء في التصرف بشكل مختلف عما هو طبيعي للمنظمة".
مقالات ذات صلة
