Startup Cathedral Anthropic жүйелеріндегі осалдықтарды 12 сағатта анықтады

Қазан айында Cathedral стартапы Claude әзірлеушісінің ішкі жүйелеріне бұзылғанын Anthropic-ке хабарлады. Бұл туралы The Washington Post басылымы есеп жобасына сілтеме жасап хабарлады. Сатылым және әкімшілік тапсырмалар үшін үшінші тарап бағдарламалық жасақтамасында осалдықтар табылды: AI агенттері кездесулердің транскрипттеріне, жалақы деректеріне және Anthropic модельдері туралы талқыланған Slack хабарламаларына жол табу үшін 12 сағаттан аз уақыт жұмсады. Тестілеу баг баунти бағдарламасы аясында жүргізілді.

Anthropic коммерциялық бөлімнің, HR және IT жүйелерінің кейбір бөліктеріне қол жеткізуді растады, олқылықтарды жапты және федералды шенеуніктерге хабарлады. Модельдермен клиенттік хат алмасу, бастапқы код және нейрондық желі салмақтары қолжетімсіз болып қалды. Компанияның айтуынша, ішкі мониторинг кейбір әрекеттерді Cathedral-дың хабарламасынан бұрын анықтады; зерттеушілер сол күні бұғатталды, басқа бұзушылықтар табылмады және қызметтер жеткізушілердің түзетулерінен кейін қалпына келтірілді. Anthropic Cathedral-дың ұлттық қауіпсіздікке қатысты табылған олқылықтардың маңыздылығын асыра сілтеп, бағдарламаның ережелерін толық сақтамағанын мәлімдеді. Cathedral-дың есебінде деректерге қол жеткізу азайтылғаны және нәтижелер шабуыл мүмкіндіктері мен активтерді қорғау арасындағы алшақтықты көрсететіні айтылған. Cognition қауіпсіздік басшысы Алекс Стамос бұл табуды маңызды деп атады: ол Anthropic-тің сыртқы жеткізушілерді бақылаудағы олқылықты ашты.

Cathedral-ды Гэвин Клигер, Люк Фарритор, Марко Элез және Джек Стейн құрды. Шілде айында Reuters $1,4 миллиард бағалаумен $160 миллион туралы хабарлады; раундты Andreessen Horowitz және Sequoia Capital басқарды. Іске қосылудан бұрын Клигер Пентагонның деректер директоры болып, Anthropic-пен бөлімнің істеріне қатысты. Ақпанда федералды агенттіктер компанияның технологияларын пайдалануды тоқтатты, ал наурызда Пентагон оны "жабдықтау тізбегінің қаупі" деп атады. Соттар: тамыз айында бір шешім заңсыз деп танылды, ал қыркүйекте апелляция екіншісін қолдады. Бұрын Anthropic мердігерлер арқылы ақпараттың таралуына тап болды, ал жазда Hacktron AI OpenAI-ды Claude арқылы бұзды.