创业公司Cathedral在12小时内发现Anthropic系统的漏洞

10月，初创公司Cathedral通知Anthropic，Claude开发者的内部系统遭到入侵。据《华盛顿邮报》援引一份草拟报告报道，在用于销售和行政任务的第三方软件中发现了漏洞：AI代理在不到12小时内找到了通往会议记录、工资数据和讨论Anthropic模型的Slack消息的路径。此次测试是作为漏洞赏金计划的一部分进行的。

Anthropic确认访问了商业部门、人力资源和IT系统的部分内容，关闭了漏洞，并通知了联邦官员。与模型的客户通信、源代码和神经网络权重仍然无法访问。根据该公司说法，在Cathedral通知之前，内部监控检测到了一些动作；研究人员在同一天被阻止，没有发现其他漏洞，并在供应商修复后恢复了服务。Anthropic表示，Cathedral夸大了发现对国家安全的重要性，并未完全遵守计划的规则。Cathedral的报告称，数据访问被最小化，结果显示了进攻能力与资产保护之间的差距。Cognition的安全负责人Alex Stamos称这一发现很严重：它暴露了Anthropic对外部供应商控制的漏洞。

Cathedral由Gavin Kliger、Luke Farritor、Marko Elez和Jack Stein创立。7月，路透社报道其估值为14亿美元，融资1.6亿美元；该轮融资由Andreessen Horowitz和Sequoia Capital领投。在公司成立之前，Kliger是五角大楼的数据总监，并参与了该部门与Anthropic的事务。2月，联邦机构停止使用该公司的技术，3月，五角大楼将其指定为“供应链风险”。法院：8月，一项决定被视为非法，9月，上诉维持了第二项决定。此前，Anthropic曾通过承包商面临泄漏问题，夏季，Hacktron AI利用Claude入侵了OpenAI。