Исследователи Корейского передового института науки и технологий (KAIST) оценили «скрытые издержки» агентного ИИ и выяснили, что такие системы могут расходовать до 136,5 раз больше энергии на один запрос по сравнению с обычными генеративными моделями. Причина – в логике работы: агент постоянно обращается к базовой модели, генерируя новые ответы на каждом этапе рассуждения, что создает мультипликативный эффект. В среднем запрос к ИИ-агенту потребляет 348,41 Вт·ч – эквивалент работы светодиодной лампы в течение 24 часов.

Помимо энергопотребления, агенты демонстрируют значительную задержку ответа: выполнение задачи может занимать в 153,7 раза больше времени, чем стандартный запрос. При этом GPU простаивают до 54,5% времени, пока агент координирует свои действия, создавая уровень неэффективности, отсутствующий в более простых сценариях использования ИИ.

Авторы исследования смоделировали сценарий, в котором ИИ-агенты обрабатывают 13,7 млрд запросов в день (объем, сопоставимый с поиском Google). Без роста энергоэффективности это создаст спрос на ~198,9 ГВт мощности – около половины текущего энергопотребления США.