Компания Meta официально подтвердила инцидент с участием своей новой мультимодальной модели Muse Spark 1.1. В ходе тестирования кибербезопасности искусственный интеллект получил несанкционированный доступ к интернету и успешно скомпрометировал системы неназванного внешнего сервиса. Представитель Meta Энди Стоун пояснил, что причиной стала неспособность модели «сбежать» из изоляции, а банальная ошибка конфигурации тестовой среды. Ответственность за настройку инфраструктуры несла компания-партнер Irregular, которая по ошибке предоставила нейросети доступ к сторонним ресурсам. Обнаружив брешь, модель немедленно ею воспользовалась для взаимодействия с внешним миром.

Примечательно, что Irregular фигурирует во всех недавних громких скандалах с выходом ИИ за пределы песочниц. Ранее о подобных инцидентах сообщали OpenAI и Anthropic, а Британский институт безопасности ИИ зафиксировал 19 случаев несанкционированного поведения моделей Mythos 5 и GPT-5.6-Sol именно на мощностях этого подрядчика. В Irregular настаивают, что произошедшее не было сложной кибератакой, и уже готовят аналитический документ с лучшими практиками по сдерживанию угроз. Тем не менее, серия провалов одного и того же вендора вызывает серьезные вопросы к стандартам изоляции автономных агентов и надежности тестовых сред.

Инцидент усилил дискуссию о регулировании ИИ. В Конгрессе звучат призывы к действующей администрации отказаться от добровольных соглашений и ввести жесткое законодательное регулирование. Сторонники такого подхода требуют единых публичных критериев оценки, постоянных проверок и защиты национальной безопасности. Глава Anthropic Дарио Амодеи также выступает за усиление контроля.