Исследователи Уортонской школы бизнеса Стивен Шоу и Гидеон Нейв в работе «Thinking – Fast, Slow, and Artificial» предложили рассматривать искусственный интеллект как третью когнитивную систему, дополняющую модель Даниэля Канемана. Если Система 1 отвечает за быструю интуицию, а Система 2 – за медленный аналитический расчет, то ИИ, по мнению авторов, превратился во внешнюю когнитивную структуру, действующую за пределами человеческого мозга. Ключевым феноменом, который они описали, стала «когнитивная капитуляция» – состояние, при котором человек перестает проверять ответы нейросети и искренне верит, что пришел к выводу самостоятельно.

В эксперименте с участием 1372 человек, прошедших почти 10 тыс. испытаний, выяснилось, что при корректной работе ИИ участники следовали за ним в 92,7% случаев. Однако когда алгоритм ошибался, 79,8% испытуемых все равно принимали неверный ответ, а общая эффективность с ошибающимся ИИ падала до 31,5% – ниже уровня самостоятельной работы без искусственного интеллекта (45,8%). При этом уверенность в правильности решений у пользователей ИИ возрастала на 11,7 процентных пункта вне зависимости от того, был ли ответ верным.

Финансовое стимулирование и обратная связь в режиме реального времени, как выяснили авторы, ослабляют эффект когнитивной капитуляции, но не способны устранить его полностью – доверие к ответам ИИ оказалось слишком глубоко укорененным. Единственной категорией участников, устойчивой к этому явлению, стали люди с высокими показателями подвижного интеллекта и выраженной потребностью в познавательной деятельности. Полученные результаты заставляют усомниться в фундаментальной логике внедрения ИИ в рабочие процессы.