اكتشاف شركة كاتدرائية الناشئة ثغرات في أنظمة أنثروبيك في 12 ساعة

في أكتوبر، أبلغت شركة كاثيدرال شركة Anthropic عن اختراق في الأنظمة الداخلية لمطور Claude. تم الإبلاغ عن ذلك من قبل صحيفة واشنطن بوست، مستشهدة بمسودة تقرير. تم العثور على ثغرات في برامج الطرف الثالث للمهام البيعية والإدارية: حيث استغرق وكلاء الذكاء الاصطناعي أقل من 12 ساعة للعثور على مسارات إلى محاضر الاجتماعات وبيانات الرواتب ورسائل Slack التي تناقش نماذج Anthropic. تم إجراء الاختبار كجزء من برنامج مكافآت الأخطاء.

أكدت Anthropic الوصول إلى أجزاء من قسم التجارة والموارد البشرية وأنظمة تكنولوجيا المعلومات، وأغلقت الثغرات، وأبلغت المسؤولين الفيدراليين. بقيت مراسلات العملاء مع النماذج، والرمز المصدري، وأوزان الشبكة العصبية غير قابلة للوصول. وفقًا للشركة، اكتشف الرصد الداخلي بعض الإجراءات قبل إخطار كاثيدرال؛ تم حظر الباحثين في نفس اليوم، ولم يتم العثور على أي اختراقات أخرى، وتمت استعادة الخدمات بعد إصلاحات الموردين. صرحت Anthropic أن كاثيدرال بالغت في أهمية النتائج للأمن القومي ولم تمتثل بالكامل لقواعد البرنامج. تقرير كاثيدرال يذكر أن الوصول إلى البيانات كان محدودًا، والنتائج تظهر فجوة بين القدرات الهجومية وحماية الأصول. رئيس الأمن في Cognition، أليكس ستاموس، وصف النتيجة بالجدية: حيث كشفت عن فجوة في سيطرة Anthropic على الموردين الخارجيين.

تأسست كاثيدرال من قبل جافين كليجر، لوك فاريتور، ماركو إليز، وجاك شتاين. في يوليو، ذكرت رويترز أن الشركة جمعت 160 مليون دولار بتقييم 1.4 مليار دولار؛ وقادت الجولة Andreessen Horowitz وSequoia Capital. قبل الإطلاق، كان كليجر مدير البيانات في البنتاغون وكان مشاركًا في الإجراءات مع Anthropic. في فبراير، توقفت الوكالات الفيدرالية عن استخدام تقنيات الشركة، وفي مارس، صنف البنتاغون الشركة على أنها "خطر على سلسلة التوريد". المحاكم: في أغسطس، اعتُبر أحد القرارات غير قانوني، وفي سبتمبر، أيد الاستئناف القرار الثاني. سابقًا، واجهت Anthropic تسريبات عبر المتعاقدين، وفي الصيف، اخترقت Hacktron AI شركة OpenAI باستخدام Claude.