스타트업 캐서드럴, 12시간 만에 앤트로픽 시스템의 취약점 발견

10월에 스타트업 Cathedral은 Claude의 개발자의 내부 시스템에 침입이 발생했다고 Anthropic에 통보했습니다. 이는 The Washington Post가 초안 보고서를 인용하여 보도한 내용입니다. 판매 및 관리 작업을 위한 서드파티 소프트웨어에서 취약점이 발견되었습니다: AI 에이전트는 회의 기록, 급여 데이터, Anthropic 모델에 대한 Slack 메시지에 접근하는 경로를 찾는 데 12시간도 걸리지 않았습니다. 이 테스트는 버그 바운티 프로그램의 일환으로 수행되었습니다.

Anthropic은 상업 부서, 인사 및 IT 시스템의 일부에 대한 접근을 확인하고, 허점을 닫고, 연방 당국에 통보했습니다. 모델과의 클라이언트 서신, 소스 코드, 신경망 가중치는 접근할 수 없었습니다. 회사에 따르면, 내부 모니터링은 Cathedral의 통보 전에 일부 행동을 감지했으며, 연구원들은 같은 날 차단되었고, 다른 침입은 발견되지 않았으며, 공급업체의 수정 후 서비스가 복원되었습니다. Anthropic은 Cathedral이 국가 안보에 대한 발견의 중요성을 과장했으며 프로그램의 규칙을 완전히 준수하지 않았다고 밝혔습니다. Cathedral의 보고서는 데이터 접근이 최소화되었으며, 결과는 공격 능력과 자산 보호 간의 격차를 보여준다고 명시하고 있습니다. Cognition의 보안 책임자인 Alex Stamos는 이 발견을 심각하다고 평가하며, 이는 Anthropic의 외부 공급업체에 대한 통제의 격차를 드러냈다고 말했습니다.

Cathedral은 Gavin Kliger, Luke Farritor, Marko Elez, Jack Stein에 의해 설립되었습니다. 7월에 Reuters는 14억 달러의 평가액으로 1억 6천만 달러를 보도했으며, 이 라운드는 Andreessen Horowitz와 Sequoia Capital이 주도했습니다. 출범 전, Kliger는 펜타곤의 데이터 디렉터였으며 Anthropic과의 부서 절차에 관여했습니다. 2월에 연방 기관은 회사의 기술 사용을 중단했으며, 3월에 펜타곤은 이를 "공급망 위험"으로 지정했습니다. 법원: 8월에 한 결정은 불법으로 간주되었고, 9월에 항소는 두 번째 결정을 유지했습니다. 이전에 Anthropic은 계약자를 통해 유출이 발생했으며, 여름에는 Hacktron AI가 Claude를 사용하여 OpenAI를 해킹했습니다.