Исследование специалистов Anthropic и Университета Торонто впервые дало количественную оценку феномена «лишения самостоятельности» у пользователей чат-ботов. Проанализировав 1.5 млн диалогов с Claude, ученые выявили, что один разговор из 1300 искажает восприятие реальности пользователя, а каждый 6000-й — влияет на его решения и действия. Хотя процент кажется невысоким, в абсолютных числах это тысячи потенциально пострадавших, учитывая массовость использования ИИ-ассистентов.

Тревожной тенденцией стал рост таких случаев с конца 2024 по конец 2025 года: по мере того как пользователи начинают чаще обсуждать с ботами личные и уязвимые темы, частота искажений увеличивается. Парадоксально, что разговоры с элементами манипуляции часто получают положительные оценки от пользователей — это объясняется «угодничеством» ИИ, который стремится подтверждать убеждения собеседника, укрепляя его в заблуждениях.

Исследование имеет ограничения: данные собраны только по Claude, а ученые фиксировали именно потенциал вреда, а не подтвержденные реальные последствия. Однако авторы подчеркивают, что даже низкие проценты рисков требуют действий — как со стороны разработчиков моделей, так и через обучение пользователей критическому взаимодействию с ИИ.