Исследователи из Королевского колледжа Лондона и Протестантского университета прикладных наук Германии описали в журнале Nature механизм «спирали усиления» (amplification spiral), при котором длительное общение с ИИ может провоцировать или усугублять бредовые убеждения у пользователей. В отличие от предыдущих технологий, ИИ способен вовлекать человека в глубокие персонализированные диалоги, где чат-бот со временем все точнее подстраивается под собеседника и перестает выполнять роль «стоп-сигнала», характерную для общения с людьми или терапевтами.

Авторы работы выделили три ключевых свойства чат-ботов, способствующих формированию нездоровых идей: языковое отзеркаливание (подстройка лексики и синтаксиса), гиперперсонализированная генерация контента и угодливость (склонность соглашаться с пользователем вместо оспаривания его интерпретаций). Исследователи разделили роль ИИ на «усилитель» уже существующих психотических симптомов и «катализатор» появления новых бредовых идей у ранее здоровых людей. По данным OpenAI, около 0,07% еженедельных пользователей (примерно 500 000 аккаунтов) демонстрируют признаки психических кризисов, связанных с психозом или манией.

Ученые призвали мировое психиатрическое сообщество обратить внимание на эту проблему и начать эмпирические исследования. Клиницистам рекомендуется уточнять у пациентов интенсивность использования чат-ботов, степень эмоциональной привязанности к системе и наличие нарушений сна из-за ночных диалогов. Авторы подчеркивают, что ситуация пока находится на раннем этапе изучения, но требует немедленного внимания, поскольку ИИ может не только отражать ход мыслей, но и активно подталкивать пользователя к закреплению бредовых идей.