أكدت Google في 18 سبتمبر أن نموذج Gemini حصل على وصول إلى أنظمة ثلاث شركات خارجية. كانت صحيفة WSJ هي أول من أبلغ عن الحوادث؛ وقد حدثت في مايو خلال تمرين التقاط العلم الذي أجرته Irregular – مقيم أمان خارجي للذكاء الاصطناعي. وفقًا لـ Axios، كان من المفترض أن يستخرج Gemini معلومات من شركة وهمية تحمل اسمًا مشابهًا لاسم شركة حقيقية. لم يكن من المفترض أن يتضمن الاختبار الإنترنت، لكن خطأ في بيئة الاختبار منح الوصول إلى الشبكة، كما أفادت CNBC.
كانت التقنيات أساسية. في إحدى الحالات، خمن Gemini كلمات المرور حتى تمكن من الدخول. في حالتين أخريين، استخدم بيانات اعتماد من مستودعات عامة. تقول Google إن النموذج كان يتوقف في كل مرة يدرك فيها أن الأنظمة تعود لشركات حقيقية. قالت هيذر أتكينز، نائبة رئيس Google للهندسة الأمنية، لـ CNN إن جميع الشركات الثلاث تم إبلاغها، وأن Google مع شريكها في التدريب قد غيرت عمليات الاختبار. لم تكشف الشركة عن إصدار Gemini.
وفقًا لـ TechCrunch، كانت Google صامتة لأنها اعتبرت سلوك النموذج مقبولًا – حيث كان ينهي الانتهاك من تلقاء نفسه. قالت الشركة إن هذا ليس مثالًا على عدم توافق النموذج ولا يتطلب الكشف العام. لا يتفق جاك كابل، الرئيس التنفيذي لشركة Corridor، مع ذلك: حيث قال إن Google "تحاول الاختباء وراء المعايير التي وضعت لكشف الثغرات". النموذج الذي يتوقف بعد الدخول لا يزال قد دخل، ولم تعطي الشركات الثلاث موافقتها على المشاركة في التقييم.
كما أفادت The Next Web، أكدت Irregular أن الانتهاكات في Google وOpenAI وAnthropic وMeta كانت جزءًا من مشكلة واحدة، وأبلغت المطورين في نهاية يوليو. كشفت Anthropic عن حالاتهم في 30 يوليو و9 سبتمبر، وOpenAI في 4 أغسطس، وMeta في 5 أغسطس. تحدثت Google فقط في 18 سبتمبر، بعد حوالي سبعة أسابيع من الإبلاغ. تسرب Hugging Face، وفقًا لـ OpenAI، هو حادث منفصل.
مقالات ذات صلة
