Развитие искусственного интеллекта может привести к тому, что серьезные инциденты в интернете станут происходить практически каждую неделю. Такой сценарий описал генеральный директор Cloudflare Мэтью Принс после недавнего обнаружения уязвимостей в PHP – языке программирования, который, по некоторым оценкам, используется примерно на 70% сайтов. Из-за выявленных проблем часть ресурсов временно отключили от сети. Принс считает, что подобные ситуации будут повторяться в ближайшие несколько лет: большие языковые модели позволяют быстрее находить слабые места в программном обеспечении, включая компоненты, от которых зависит работа интернет-инфраструктуры. По его словам, специалисты по защите и злоумышленники теперь могут применять ИИ для поиска ранее неизвестных уязвимостей.
Раньше поиск ошибок и превращение их в инструменты для атак требовали значительных затрат времени и участия квалифицированных специалистов. Использование языковых моделей и ИИ-агентов снижает эти барьеры, позволяя автоматизировать часть работы. Исследователи Wiz Research, участвовавшие в обнаружении недавних проблем PHP с помощью ИИ-инструментов, отметили, что технологии изменили затраты времени и ресурсов на поиск уязвимостей и их эксплуатацию. По данным команды, передовые модели помогли за несколько часов создавать и адаптировать работающие эксплойты для разных приложений. Это повышает риски для разработчиков и операторов сервисов, которым приходится быстрее выявлять проблемы, выпускать исправления и проверять безопасность используемых компонентов.
Принс ожидает, что в ближайшие месяцы специалисты по кибербезопасности столкнутся с увеличением числа эксплойтов, созданных при помощи ИИ. При этом он считает, что в долгосрочной перспективе программное обеспечение может стать надежнее: обнаруженные уязвимости будут исправлять, а накопленный опыт поможет укрепить защиту систем. Таким образом, развитие ИИ одновременно расширяет возможности атакующих и ускоряет работу специалистов по безопасности. Итог будет зависеть от того, насколько быстро разработчики смогут выявлять уязвимости, выпускать патчи и внедрять их в используемые системы. Пока же, по оценке главы Cloudflare, интернету предстоит пройти период повышенной нестабильности, связанный с ускорением автоматизированного поиска слабых мест.
Материал подготовлен исключительно в ознакомительно-информационных целях и не является финансовым советом и рекомендацией.