Консалтинговая компания KPMG была вынуждена отозвать свой октябрьский отчет «Переосмысление совершенства в эпоху агентного ИИ» после того, как ряд крупных организаций опровергли приведенные в нем кейсы. В документе утверждалось, что такие компании, как UBS, Swiss Federal Railways, Transport for London и Национальная служба здравоохранения Большого Манчестера, успешно внедряют ИИ-агентов для автоматизации бизнес-процессов. Однако представители этих организаций заявили, что подобные технологии ими не используются, а описанные сценарии не соответствуют действительности.

Исследовательская группа GPTZero, выявившая неточности, классифицировала их как классические галлюцинации языковых моделей. Например, утверждения об использовании ИИ для прогнозирования повторных госпитализаций в NHS базировались на источнике, посвященном лишь раннему выявлению рака легких. KPMG начала внутреннее расследование, подчеркнув, что политика компании требует обязательной верификации фактов человеком.

Инцидент подчеркивает системные риски использования генеративного ИИ в профессиональных услугах: ранее в мае аналогичные проблемы испытала компания EY. Генеральный директор GPTZero Эдвард Тянь предупредил об эффекте «вторичных галлюцинаций», когда выдуманная ИИ информация тиражируется СМИ и другими аналитиками, что подрывает доверие к консалтинговому сектору на фоне призывов к ужесточению регулирования ИИ.