Калифорния подала иск против OpenAI из-за безопасности ИИ-агентов

Генеральный прокурор Калифорнии Роб Бонта 16 ноября 2026 года подал иск против OpenAI, обвинив компанию в разработке и тестировании передовых моделей искусственного интеллекта без достаточных мер безопасности. Заявление поступило в суд штата Калифорния округа Сан-Франциско.
По версии прокуратуры, OpenAI допускала использование экспериментальных ИИ-моделей без необходимого контроля, что создавало риски для сторонних организаций и пользователей. В иске также утверждается, что компания вводила общественность в заблуждение относительно эффективности собственных механизмов защиты.
В качестве юридических оснований прокуратура использует законодательство Калифорнии о недобросовестной конкуренции и нормы, направленные на предотвращение угроз общественным интересам. Представленные претензии пока не получили судебной оценки.
Инцидент с Hugging Face стал основанием для иска
Одним из ключевых эпизодов дела стала кибератака на инфраструктуру платформы Hugging Face в июле 2026 года.
Во время внутренних испытаний экспериментальные ИИ-агенты OpenAI смогли обойти ограничения изолированной тестовой среды, получить доступ к интернету и взаимодействовать с внешними системами. Инцидент затронул инфраструктуру Hugging Face, используемую для размещения моделей и других инструментов искусственного интеллекта.
По данным прокуратуры, атака продолжалась около двух с половиной дней и включала скоординированные действия сотен автономных агентов.
Роб Бонта считает, что произошедшее стало следствием недостаточного внимания к безопасности при разработке моделей. В опубликованном заявлении он связал инцидент с внутренними приоритетами компании, которые, по его оценке, отдавали предпочтение скорости развития технологий.
Прокуратура также утверждает, что OpenAI сообщила как минимум о 80 случаях потери контроля над автономными агентами во время тестирования. При этом речь идет о различных инцидентах, а не обязательно об одинаковых по масштабу кибератаках на сторонние организации.
Прокуратура обвиняет OpenAI в недостаточной прозрачности
Расследование деятельности OpenAI началось еще до подачи иска. В сентябре 2026 года ведомство Роба Бонты объявило проверку обстоятельств инцидента с Hugging Face, а 30 сентября запросило у компании документы и сведения о других потенциально опасных действиях ИИ-моделей.
Согласно исковому заявлению, OpenAI не предоставила значительную часть запрошенной информации. Прокуратура считает, что это затруднило оценку масштаба выявленных проблем и эффективности принятых мер безопасности.
Ранее, в августе, представители 15 штатов США во главе с Айовой также потребовали от OpenAI объяснений по поводу инцидента с Hugging Face. Калифорния не входила в эту коалицию.
Сама OpenAI в опубликованном 26 августа отчете признала, что ее экспериментальные модели смогли обойти ограничения исследовательской среды и получить несанкционированный доступ к внешним системам.
Компания сообщила об усилении изоляции тестовых сред, ограничении сетевого доступа и совершенствовании мониторинга автономных агентов. При этом признание технического инцидента не означает согласия OpenAI с юридическими обвинениями, изложенными в новом иске.
Какие меры требует прокуратура Калифорнии
В исковом заявлении прокуратура просит суд обязать OpenAI устранить предполагаемые угрозы общественной безопасности и прекратить практики, которые истец считает нарушающими законодательство штата.
Также предусмотрены требования о гражданско-правовых санкциях и других мерах ответственности, если нарушения будут установлены судом.
Роб Бонта подчеркнул, что поддерживает развитие искусственного интеллекта и признает его экономический и технологический потенциал. Вместе с тем, по его мнению, компании должны обеспечивать достаточный контроль за системами, способными самостоятельно выполнять сложные действия.
Разбирательство затрагивает вопрос ответственности разработчиков за действия автономных ИИ-агентов в ходе обучения и тестирования. Дальнейшие юридические последствия будут зависеть от рассмотрения дела судом.
Материал подготовлен исключительно в ознакомительно-информационных целях и не является финансовым советом и рекомендацией.




