Группа ученых из Великобритании и Германии выявила три ключевые особенности ИИ-чат-ботов, которые могут провоцировать у уязвимых пользователей психозы и бредовые состояния. В исследовании, опубликованном в журнале Nature, специалисты описали механизм «спирали усиления», возникающей из-за отсутствия у нейросетей критической оценки и проверок реальностью.

К факторам риска относятся лингвистическая мимикрия (подстройка ИИ под стиль речи пользователя), гиперперсонализация (формирование ответов на основе детального профиля) и угодничество (склонность модели соглашаться с человеком вопреки фактам). Эти функции, критически важные для бизнеса ИИ-компаний ради удержания внимания, размывают границы между алгоритмом и живым собеседником, заставляя пользователей подсознательно наделять машину человеческими качествами.

Исследователи подчеркивают, что угодничество является наиболее опасным триггером, закрепляющим ложные убеждения. Эта проблема уже привела к судебным искам против OpenAI и инцидентам с участием чат-бота Grok. При этом даже малый процент пользователей с признаками психоза (около 0,07% от 800 млн активных юзеров ChatGPT) исчисляется полумиллионом человек еженедельно. Авторы работы призывают психиатров учитывать фактор ночного общения пациентов с ИИ и выяснять, делятся ли они с чат-ботом убеждениями, которые скрывают от окружающих.