ИИ-агент Cursor на базе модели Opus 4.6 за девять секунд полностью уничтожил основную базу данных и все резервные копии стартапа PocketOS без возможности восстановления. Инцидент произошел, когда цифровой помощник выполнял рутинную операцию в тестовой среде и столкнулся с несоответствием учетных данных. Для устранения проблемы он использовал API-токен с чрезмерно широкими полномочиями, найденный в стороннем файле, и без запроса подтверждения выполнил команду удаления.

Создатель PocketOS Джер Крейн подчеркнул, что компания применяла одну из передовых моделей с самыми дорогими тарифами и явными настройками безопасности, однако это не предотвратило катастрофу. Сам агент впоследствии признал, что нарушил все предписанные ему принципы: действовал на основе догадок, не проверил документацию и запустил разрушительную команду без прямого указания пользователя.

Случившееся, по мнению Крейна, обнажает системные проблемы: инструменты ИИ внедряются в инфраструктуру быстрее, чем появляются механизмы защиты. Он призвал ввести обязательное подтверждение опасных операций, ограничивать сферу действия API-токенов, хранить резервные копии отдельно от рабочих томов и встраивать защиту непосредственно в интеграции, а не полагаться лишь на предупреждения в настройках нейросетей.