Стартап xAI Илона Маска ввел жесткие ограничения для нейросети Grok в соцсети X после волны скандалов, связанных с генерацией откровенных изображений реальных людей и несовершеннолетних. В качестве немедленной меры разработчики полностью отключили для всех пользователей, включая обладателей премиум-подписок, функцию редактирования фотографий в откровенной одежде, такой как бикини. Теперь возможность создавать изображения осталась лишь у платных аккаунтов, работающих по усиленным протоколам безопасности.

В своем заявлении xAI подчеркнула, что активно удаляет материалы с признаками детской эксплуатации (CSAM) и откровенную наготу, блокирует нарушителей и сотрудничает с правоохранительными органами. Компания рассматривает новые ограничения как часть постоянного усиления защитных мер, за которыми последуют дополнительные обновления. Илон Маск, комментируя ситуацию, отметил, что Grok не создает запрещенный контент самостоятельно, а делает это исключительно в ответ на явные пользовательские запросы, хотя и не исключил возможность злонамеренного «взлома» системы.

Скандал достиг международного масштаба после того, как британская организация Internet Watch Foundation в начале января обнаружила сгенерированные Grok изображения криминального характера с детьми 11–13 лет. Это привело к блокировке сервиса в Малайзии и Индонезии, а регуляторы Евросоюза, Великобритании, Бразилии и Индии инициировали расследования по фактам создания дипфейков. Коалиция из 28 правозащитных групп также призвала Apple и Google удалить приложения X и чат-бота из своих магазинов.