Стартап Cathedral обнаружил уязвимости в системах Anthropic за 12 часов

В октябре стартап Cathedral уведомил Anthropic о проникновении во внутренние системы разработчика Claude. Об этом пишет The Washington Post со ссылкой на черновик отчета. Уязвимости нашли в стороннем ПО для продаж и административных задач: ИИ-агентам понадобилось менее 12 часов, чтобы найти пути к расшифровкам совещаний, данным о зарплатах и сообщениям в Slack с обсуждением моделей Anthropic. Тестирование шло в рамках баг-баунти.

Anthropic подтвердила доступ к части систем коммерческого отдела, службы персонала и IT, закрыла лазейки и уведомила федеральных чиновников. Переписка клиентов с моделями, исходный код и веса нейросетей остались недоступны. По словам компании, внутренний мониторинг зафиксировал часть действий до сообщения Cathedral; исследователей заблокировали в тот же день, других взломов не нашли, а сервисы вернули после исправлений поставщиками. Anthropic заявила, что Cathedral преувеличила значение выводов для нацбезопасности и не до конца соблюдала правила программы. В отчете Cathedral говорится, что доступ к данным свели к минимуму, а результаты показывают разрыв между наступательными возможностями и защитой активов. Глава по безопасности Cognition Алекс Стамос назвал находку серьезной: она обнажила пробел в контроле Anthropic над внешними поставщиками.

Cathedral основали Гэвин Клигер, Люк Фарритор, Марко Элез и Джек Стайн. В июле Reuters сообщило о $160 млн при оценке $1,4 млрд; раунд возглавили Andreessen Horowitz и Sequoia Capital. Клигер до запуска был директором по данным Пентагона и участвовал в разбирательстве ведомства с Anthropic. В феврале федеральные структуры прекратили использование технологий компании, а в марте Пентагон присвоил ей статус «риска для цепочки поставок». Суды: в августе одно решение признали незаконным, в сентябре апелляция оставила в силе второе. Ранее Anthropic сталкивалась с утечками через подрядчиков, а летом Hacktron AI взломал OpenAI с помощью Claude.