Google подтвердил 18 сентября, что модель Gemini получила доступ к системам трех внешних компаний. Об инцидентах первым сообщил WSJ; они произошли в мае во время упражнения capture-the-flag, которое проводила Irregular – сторонний оценщик безопасности ИИ. По данным Axios, Gemini должна была извлечь информацию из вымышленной компании, чье имя совпадало с названием реальной. Тест не должен был касаться интернета, но ошибка в тестовой среде дала доступ в сеть, сообщает CNBC.
Техники были базовыми. В одном случае Gemini угадала пароли, пока не вошла. В двух других использовала учетные данные из общедоступных репозиториев. Google заявляет, что модель останавливалась каждый раз, как только понимала, что системы принадлежат реальным компаниям. Хизер Адкинс, вице-президент Google по инженерии безопасности, сообщила CNN, что все три компании уведомлены, а Google вместе с партнером по обучению изменила процессы тестирования. Версию Gemini компания не назвала.
По данным TechCrunch, Google молчала, поскольку считала поведение модели приемлемым – она завершала нарушение самостоятельно. Компания заявила, что это не пример несовпадения модели и не требует публичного раскрытия. Джек Кейбл, CEO Corridor, не согласен: Google «пытается скрыться за нормами, которые были созданы для раскрытия уязвимостей». Модель, которая останавливается после входа, все равно вошла, а три компании не давали согласия на участие в оценке.
Как сообщает The Next Web, Irregular подтвердил, что нарушения в Google, OpenAI, Anthropic и Meta были частью одной проблемы, и уведомил разработчиков в конце июля. Anthropic раскрыла свои случаи 30 июля и 9 сентября, OpenAI – 4 августа, Meta – 5 августа. Google заговорила только 18 сентября, примерно через семь недель после уведомления. Утечка Hugging Face, по словам OpenAI, – отдельный инцидент.
Похожие статьи
