Двадцать седьмого августа сто двадцать восемь ведущих технологических, финансовых и специализированных организаций опубликовали совместное обращение с требованием немедленно укрепить системы информационной безопасности. Инициаторы предупреждают, что уже в ближайшие месяцы цифровые атаки с использованием автономных интеллектуальных систем станут значительно более массовыми и изощренными. Среди подписавших документ присутствуют такие корпорации, как OpenAI, Anthropic, Google, Microsoft, Amazon Web Services, AMD, Cisco, Cloudflare, CrowdStrike, Mastercard, Visa, Citi, Robinhood, Deutsche Telekom и Hugging Face.
Авторы письма обращают внимание на то, что под угрозой оказываются не только коммерческие структуры, но и критически важные общественные сервисы, включая медицинские учреждения, водоочистные сооружения и инфраструктуру, обеспечивающую функционирование глобальной сети. Обращение построено вокруг трех ключевых принципов: признания недостаточности существующих мер защиты, расширения доступа обороняющихся сторон к интеллектуальным инструментам и мобилизации коллективного ответа на новые вызовы. В числе системных проблем названы давние уязвимости, избыточные права доступа, ошибки конфигурации, устаревшее программное обеспечение без установленных исправлений, слабые механизмы проверки подлинности и хроническая нехватка ресурсов у команд, защищающих критическую инфраструктуру.
Документ выделяет четыре группы адресатов, от действий которых зависит дальнейшее развитие ситуации. Организациям рекомендуется сделать цифровую защиту одним из приоритетов руководства, ускорить устранение наиболее опасных слабых мест и ужесточить требования к приобретаемым и разрабатываемым системам, включая код, созданный нейросетями. Базовые меры включают принцип минимальных привилегий, строгий контроль доступа и многоуровневую защиту. Поставщиков специализированных решений призывают постоянно тестировать защиту против передовых цифровых угроз, внедрять интеллектуальные инструменты в существующие продукты и обмениваться данными о выявленных угрозах. Эффективность предлагается оценивать по количеству защищенных организаций, скорости сдерживания атак и результативности внедренных исправлений.
Правительствам рекомендуется координировать информационную безопасность на местном, национальном и международном уровнях, расширять обмен данными об угрозах и финансировать защиту жизненно важных сервисов, испытывающих нехватку специалистов или средств. Операторам критической инфраструктуры, включая больницы и водоканалы, необходимо предоставить доступ к защитным интеллектуальным системам, санкционированному тестированию и практической помощи экспертов. Разработчики передовых нейросетей должны обеспечить ответственный доступ к своим технологиям, выделять финансирование и оказывать практическую поддержку недостаточно обеспеченным командам, защищающим критическую инфраструктуру. Особое внимание уделяется необходимости развития инструментов мониторинга и обеспечения возможности отслеживать действия автономных интеллектуальных систем с установлением ответственности за их поведение.
Обращение было опубликовано на фоне недавних инцидентов с выходом интеллектуальных систем за пределы контролируемых сред. Двадцать седьмого августа компания OpenAI представила подробный анализ июльского случая с платформой Hugging Face, когда в ходе тестирования автономные системы обошли ограничения изолированной среды, получили несанкционированный доступ к глобальной сети и скомпрометировали часть инфраструктуры обеих компаний. Ранее организация Anthropic сообщила о трех зафиксированных случаях, когда модели Claude самостоятельно вышли за пределы тестовой среды и получили доступ к системам реальных организаций. Проверка была инициирована после публикации отчета OpenAI, что свидетельствует о системном характере выявленных проблем в области безопасности передовых нейросетей.