La startup Cathedral descubre vulnerabilidades en los sistemas de Anthropic en 12 horas

En octubre, la startup Cathedral notificó a Anthropic sobre una violación en los sistemas internos del desarrollador de Claude. Esto fue reportado por The Washington Post, citando un borrador de informe. Se encontraron vulnerabilidades en el software de terceros para tareas de ventas y administrativas: los agentes de IA tardaron menos de 12 horas en encontrar caminos hacia transcripciones de reuniones, datos salariales y mensajes de Slack que discutían modelos de Anthropic. Las pruebas se realizaron como parte de un programa de recompensas por errores.

Anthropic confirmó el acceso a partes del departamento comercial, sistemas de recursos humanos y TI, cerró las brechas y notificó a las autoridades federales. La correspondencia con clientes sobre modelos, el código fuente y los pesos de la red neuronal permanecieron inaccesibles. Según la compañía, el monitoreo interno detectó algunas acciones antes de la notificación de Cathedral; los investigadores fueron bloqueados el mismo día, no se encontraron otras violaciones y los servicios se restauraron después de las correcciones del proveedor. Anthropic declaró que Cathedral exageró la importancia de los hallazgos para la seguridad nacional y no cumplió completamente con las reglas del programa. El informe de Cathedral indica que el acceso a los datos fue minimizado, y los resultados muestran una brecha entre las capacidades ofensivas y la protección de activos. El jefe de seguridad de Cognition, Alex Stamos, calificó el hallazgo como serio: expuso una brecha en el control de Anthropic sobre los proveedores externos.

Cathedral fue fundada por Gavin Kliger, Luke Farritor, Marko Elez y Jack Stein. En julio, Reuters informó sobre $160 millones a una valoración de $1.4 mil millones; la ronda fue liderada por Andreessen Horowitz y Sequoia Capital. Antes del lanzamiento, Kliger fue el director de datos del Pentágono y estuvo involucrado en los procedimientos del departamento con Anthropic. En febrero, las agencias federales dejaron de usar las tecnologías de la compañía, y en marzo, el Pentágono la designó como un "riesgo para la cadena de suministro". Tribunales: en agosto, una decisión fue considerada ilegal, y en septiembre, una apelación confirmó la segunda. Anteriormente, Anthropic enfrentó filtraciones a través de contratistas, y en el verano, Hacktron AI hackeó OpenAI usando Claude.