ИИ-стартап Anthropic оказался в центре скандала после того, как ошибочно выставил пользователю бесплатного тарифа Claude счет на колоссальную сумму в шестнадцать целых и шесть десятых миллиона долларов. Об этом инциденте рассказал разработчик из Южной Кореи, известный под псевдонимом remy_notes, в социальной сети Threads. Седьмого июля программист получил первый инвойс на сумму один миллион шестьсот тысяч долларов, который поначалу принял за фишинговую атаку. Однако менее чем через сутки пришло второе письмо с требованием оплаты, где сумма выросла до шестнадцати целых и шести десятых миллиона долларов. Примечательно, что отправитель и платежная ссылка вели на официальный домен Anthropic и ее платежную систему Stripe, в то время как панель управления аккаунтом пользователя показывала нулевое использование API, а тарифицируемых ключей на нем не было. После того как банковская карта разработчика дважды отклонила попытки списания из-за превышения лимита на одну транзaction, он в качестве превентивной меры отменил подписку Claude Max и заблокировал карту, потратив четыре дня и около восемнадцати писем на общение с поддержкой, часть из которых отвечал автоматический ИИ-агент по имени Fin.

Двенадцатого июля компания Anthropic официально подтвердила наличие ошибки в письме к пользователю, заверив, что ни одного доллара с его счета списано не было. В качестве причины инцидента разработчики назвали неправильно настроенную функцию автопополнения баланса, которую тут же отключили в качестве меры предосторожности. Представители стартапа также связали последующую блокировку банковской карты разработчика именно с этими неудавшимися попытками списания со стороны американского продавца с названием ANTHROP. Команда проекта подчеркнула, что доступ к аккаунту программиста никто не взламывал, однако объяснить, каким образом внутренняя система сгенерировала именно такую астрономическую сумму в шестнадцать целых и шесть десятых миллиона долларов, служба поддержки так и не смогла, оставив этот вопрос без внятного технического комментария.

Данный инцидент оказался не единичным случаем в быстро развивающейся индустрии искусственного интеллекта. В конце июня издание The Information со ссылкой на аудиторскую компанию Vaudit сообщило о массовых переплатах со стороны корпоративных клиентов Anthropic и OpenAI. В период с марта по июнь аудиторы проверили счета шестидесяти организаций на общую сумму тридцать четыре миллиона долларов и выявили избыточные начисления на сумму около одного миллиона семьсот тысяч долларов, что составило примерно пять процентов от проверенного объема. Специалисты выделили несколько системных ошибок: клиентам выставляли счета по тарифам новых моделей, хотя фактически применялась более дешевая старая версия, а также фиксировались случаи списаний за запросы, которые завершались ошибкой. Отдельную категорию составили так называемые «штормы повторов», когда ИИ-агент в фоновом режиме многократно повторяет неудачную задачу, и каждая попытка ошибочно отражается в итоговом счете, хотя после обращений компании начали возвращать около восьмидесяти процентов переплат.