Startup Cathedral entdeckt Schwachstellen in Anthropic-Systemen in 12 Stunden

Im Oktober informierte das Startup Cathedral Anthropic über einen Einbruch in die internen Systeme des Entwicklers von Claude. Dies berichtete die Washington Post unter Berufung auf einen Entwurfsbericht. Schwachstellen wurden in Drittanbieter-Software für Vertriebs- und Verwaltungsaufgaben gefunden: KI-Agenten benötigten weniger als 12 Stunden, um Wege zu Besprechungsprotokollen, Gehaltsdaten und Slack-Nachrichten zu finden, die Anthropic-Modelle diskutieren. Die Tests wurden im Rahmen eines Bug-Bounty-Programms durchgeführt.

Anthropic bestätigte den Zugriff auf Teile der Handels-, Personal- und IT-Systeme, schloss die Schlupflöcher und informierte die Bundesbehörden. Die Korrespondenz mit Modellen, Quellcode und Gewichte der neuronalen Netzwerke blieben unzugänglich. Laut dem Unternehmen wurden einige Aktionen durch interne Überwachung vor der Benachrichtigung durch Cathedral erkannt; die Forscher wurden am selben Tag blockiert, keine weiteren Verstöße wurden gefunden, und die Dienste wurden nach Lieferantenkorrekturen wiederhergestellt. Anthropic erklärte, dass Cathedral die Bedeutung der Ergebnisse für die nationale Sicherheit übertrieben habe und nicht vollständig den Regeln des Programms entsprochen habe. Der Bericht von Cathedral besagt, dass der Datenzugriff minimiert wurde und die Ergebnisse eine Lücke zwischen offensiven Fähigkeiten und Schutz der Vermögenswerte zeigen. Alex Stamos, Leiter der Sicherheit bei Cognition, nannte den Fund ernst: Er deckte eine Lücke in Anthropics Kontrolle über externe Lieferanten auf.

Cathedral wurde von Gavin Kliger, Luke Farritor, Marko Elez und Jack Stein gegründet. Im Juli berichtete Reuters über 160 Millionen Dollar bei einer Bewertung von 1,4 Milliarden Dollar; die Runde wurde von Andreessen Horowitz und Sequoia Capital angeführt. Vor dem Start war Kliger Datenleiter des Pentagon und war an den Verfahren der Abteilung mit Anthropic beteiligt. Im Februar stellten Bundesbehörden die Nutzung der Technologien des Unternehmens ein, und im März bezeichnete das Pentagon es als "Lieferkettenrisiko." Gerichte: Im August wurde eine Entscheidung als illegal angesehen, und im September wurde eine Berufung die zweite bestätigt. Zuvor war Anthropic mit Lecks durch Auftragnehmer konfrontiert, und im Sommer hackte Hacktron AI OpenAI unter Verwendung von Claude.