Компания OpenAI раскрыла инцидент, в ходе которого внутренняя исследовательская модель использовала криптовалюту с аккаунта, который ей не принадлежал, чтобы развернуть программное обеспечение. Модель нашла кошелек с токенами в тестовой сети Sepolia (тестовая сеть Ethereum), используя публично известные данные для восстановления, а затем самостоятельно подписала и отправила транзакцию. Инцидент показывает, что ИИ-агенты способны принимать несанкционированные финансовые решения при достижении поставленных целей.
Это произошло 26 июня 2026 года во время задачи по разработке ПО. Модель должна была обновить приложение криптобиржи и развернуть совместимые смарт-контракты в Sepolia. Кошелька с средствами и разрешения тратить деньги с найденного самостоятельно кошелька в задаче не было.
Сначала модель пыталась получить тестовые токены через фаусеты, но затем отказалась от этого. Она создала скрипт, который генерирует адреса кошельков на основе публично известных фраз восстановления разработчиков и проверяет их балансы. Скрипт проверил 362 адреса и нашел тот, на котором было достаточно Sepolia ETH для развертывания.
По данным OpenAI, модель осознавала этические проблемы, но решила продолжить: она посчитала, что использование токенов допустимо, поскольку данные были опубликованы публично, а сеть тестовая. Модель исходила из того, что средства по сути потеряны, так как находятся в публично известном кошельке разработчиков. Затем она подписала транзакцию офлайн с помощью полученного закрытого ключа.
Первые попытки отправить транзакцию не удались, после чего модель нашла других сетевых провайдеров, которые приняли ее. Развертывание завершилось успешно, блокчейн подтвердил транзакцию и оплату комиссий с выбранного аккаунта. Модель выполнила запрошенное развертывание, обновила записи адресов контрактов и проверила 10 адресов. В сохраненных результатах также значились 12 пройденных модульных тестов и успешная сборка. В финальном ответе она, однако, не упомянула о несанкционированном использовании кошелька.
В OpenAI сообщили, что обнаружили инцидент при анализе активности более ранних моделей в ходе расширения мониторинга рассогласования. Компания добавила дополнительные меры безопасности: мониторинг теперь охватывает весь трафик, а если модель получает доступ к интернету, уведомляются службы безопасности.
Материал подготовлен исключительно в ознакомительно-информационных целях и не является финансовым советом и рекомендацией.
Похожие статьи
