Британская компания Darktrace Holdings Ltd. сделала продукт SECURE AI общедоступным, внедрив поведенческое обнаружение в корпоративное использование ИИ-инструментов и агентов. Телеметрия примерно 8 200 развертываний Darktrace показывает: более 80% отслеживаемых учетных записей клиентов использовали генеративный ИИ в августе, а средняя организация взаимодействовала с пятью поставщиками ИИ за месяц.
Компания привела три примера. Одна организация одобрила одного ИИ-помощника, но большинство сотрудников использовали несанкционированные сервисы. В другой было создано почти 90 ИИ-агентов в среде разработки без процедуры утверждения. Неконтролируемое использование ИИ подрядчиками в третьей привело к юридической проверке.
SECURE AI использует тот же метод поведенческого анализа, что и другие продукты Darktrace. В общедоступной версии реализована интеграция с Amazon Web Services, Anthropic, Microsoft и OpenAI. В ChatGPT Enterprise, Claude, Microsoft Copilot и Amazon Bedrock сеансы сканируются в реальном времени на предмет взлома, утечки данных и косвенных инъекций подсказок. Каждому сеансу присваивается рейтинг риска.
Обнаружение теневого ИИ опирается на интеграцию с Microsoft Entra Global Secure Access. Администраторы могут блокировать несанкционированные сервисы или помещать устройство в карантин, а также загружать собственные политики ИИ для проверки на соответствие требованиям. Покрытие распространяется на среды разработки – Amazon Bedrock и Microsoft Copilot Studio.
«Искусственный интеллект разрушает эту модель», – сказал Эд Дженнингс, президент и CEO Darktrace, о прежнем подходе к каталогизации угроз. По его мнению, важный сигнал – момент, когда что-то «начинает вести себя иначе, чем это нормально для организации».
Похожие статьи
