영국 회사 Darktrace Holdings Ltd.는 AI 도구와 에이전트의 기업 사용을 위한 행동 감지를 도입하여 SECURE AI 제품을 공개했습니다. Darktrace의 약 8,200개 배포에서 수집된 텔레메트리는 80% 이상의 고객 계정이 8월에 생성적 AI를 사용했으며, 평균 조직은 한 달에 다섯 개의 AI 공급자와 상호작용했음을 보여줍니다.
회사는 세 가지 사례를 제시했습니다. 한 조직은 하나의 AI 도우미를 승인했지만 대부분의 직원은 승인되지 않은 서비스를 사용했습니다. 다른 조직에서는 승인 절차 없이 거의 90개의 AI 에이전트가 개발 환경에서 생성되었습니다. 세 번째 조직에서는 계약자가 AI를 통제하지 않아 법적 검토가 필요했습니다.
SECURE AI는 Darktrace의 다른 제품과 동일한 행동 분석 방법을 사용합니다. 공개 버전에서는 Amazon Web Services, Anthropic, Microsoft 및 OpenAI와의 통합이 구현되었습니다. ChatGPT Enterprise, Claude, Microsoft Copilot 및 Amazon Bedrock의 세션은 해킹, 데이터 유출 및 간접적인 프롬프트 주입에 대해 실시간으로 스캔됩니다. 각 세션에는 위험 등급이 부여됩니다.
그림자 AI 감지는 Microsoft Entra Global Secure Access와의 통합에 의존합니다. 관리자는 승인되지 않은 서비스를 차단하거나 장치를 격리할 수 있으며, AI 정책을 업로드하여 규정 준수를 확인할 수 있습니다. 커버리지는 개발 환경인 Amazon Bedrock 및 Microsoft Copilot Studio로 확장됩니다.
“인공지능은 이 모델을 파괴하고 있습니다.”라고 Darktrace의 대통령이자 CEO인 Ed Jennings는 위협 카탈로그화에 대한 이전 접근 방식에 대해 말했습니다. 그는 중요한 신호는 무언가가 “조직에 대해 정상적이지 않게 행동하기 시작하는 순간”이라고 생각합니다.
관련 도움말
