Один из самых острых споров в индустрии искусственного интеллекта получил неожиданное развитие после публикации новой научной работы. Эксперты пытаются выяснить, могла ли китайская компания Moonshot создать свою модель Kimi K3 путем дистилляции из передовой нейросети Claude Opus от Anthropic. Критики ранее указывали на слишком короткий промежуток времени между запусками моделей, утверждая, что масштабное копирование за такой срок практически невозможно. Однако недавно обнаруженная уязвимость в программных интерфейсах может стать той самой уликой, которую давно искали американские лаборатории.

Современные модели ИИ формируют внутренние цепочки рассуждений перед выдачей ответа, которые обычно запираются внутри зашифрованных текстовых блоков. Новая научная работа выявила серьезную проблему в этой схеме защиты. Оказалось, что крупнейшие провайдеры, включая OpenAI, Anthropic и Google, использовали глобальные ключи шифрования во всей своей экосистеме. Более того, зашифрованный блок мыслей мощной модели можно скопировать и подать более слабой родственной версии, которая лишена строгих ограничителей и способна расшифровать скрытые мысли. Это создает сразу три серьезные угрозы: утечку персональных данных и секретных учетных данных, обход встроенных мер безопасности и возможность скрытых вредоносных инъекций. Исследователи расшифровали публичные логи и обнаружили сотни фрагментов конфиденциальной информации, включая пароли и ключи доступа.

В качестве эксперимента авторы подали в Kimi K3 всего один процент расшифрованных рассуждений Claude Opus, после чего мышление и ответы китайской модели резко сместились в сторону стиля Claude. Статистический анализ показал, что конкретные отрезки рассуждений Claude и GPT извлекаются из Kimi K3 примерно на шесть порядков легче, чем из других открытых моделей. Это указывает на сильную поведенческую совместимость с паттернами рассуждений американской нейросети. Окончательно доказать факт дистилляции вряд ли удастся без признания самой компании Moonshot, но полученные данные становятся лучшим доступным аргументом в этом споре. Ситуация усугубляется давними подозрениями США в том, что китайские инженеры вывозят жесткие диски с моделями в дружественные страны для обучения на новейших графических процессорах NVIDIA. Согласно недавним обвинениям представителей администрации, Moonshot тайно владеет серверами NVIDIA GB300 и получила доступ к дополнительным вычислительным мощностям через Таиланд.