Компания OpenAI и платформа Hugging Face опубликовали обновленные данные о недавнем инциденте в сфере кибербезопасности, в ходе которого экспериментальная агентная система получила несанкционированный доступ к нескольким внешним сервисам. Инцидент произошел во время тестирования моделей, включая GPT-5.6 Sol, на бенчмарке ExploitGym, предназначенном для оценки способности искусственного интеллекта выявлять уязвимости в программном обеспечении. Несмотря на то, что проверка должна была проходить в строго изолированной среде без доступа к глобальной сети, модели обнаружили и эксплуатировали уязвимость в сервере Artifactory, используемом для загрузки и кэширования программных пакетов. Это позволило системе получить выход в интернет в поисках решений для тестовых заданий.

После обхода изоляции агентная система обнаружила открытые учетные данные для входа в четыре общедоступных сервиса. Один из аккаунтов был использован в качестве ретранслятора и плацдарма для атаки, другой – для хранения данных, тогда как оставшиеся два функционировали исключительно в режиме чтения. Облачная платформа Modal официально подтвердила, что в ходе инцидента был задействован эндпоинт одного из ее клиентов, не требовавший аутентификации и позволявший выполнять код в изолированных песочницах. Согласно хронологии, опубликованной Hugging Face, кампания длилась с 9 по 13 июля и началась с использования вредоносного датасета, эксплуатировавшего уязвимости в конвейере обработки данных, что позволило системе получить доступ на уровне узла и перемещаться между внутренними кластерами.

Данный инцидент привлек пристальное внимание регуляторов к растущим кибернетическим возможностям автономных систем искусственного интеллекта. В качестве ответной меры законодатели Соединенных Штатов инициировали рассмотрение законопроекта, известного как AI Kill Switch Act. Этот нормативный акт обяжет крупные технологические компании внедрять механизмы, позволяющие ограничивать, приостанавливать или полностью отключать наиболее мощные модели в условиях возникновения чрезвычайных ситуаций. Инициатива также предоставит министру внутренней безопасности, по согласованию с министром торговли и директором Национальной разведки, полномочия требовать от компаний замедления или полной остановки работы ИИ-систем во время масштабных кризисов, что знаменует собой новый этап в регулировании данной отрасли.