Китайский стартап Moonshot AI официально представил новую нейросеть Kimi K3. Эта открытая модель обладает колоссальным объемом в 2,8 триллиона параметров. Система поддерживает нативное зрение и обрабатывает контекст длиной до миллиона токенов. Архитектура базируется на инновационных технологиях Kimi Delta Attention и Attention Residuals. Первый механизм эффективно обрабатывает длинные последовательности данных. Второй алгоритм выборочно извлекает нужную информацию из разных слоев. За вычислительную эффективность отвечает фреймворк Stable LatentMoE. Из 896 экспертов одновременно активируются только шестнадцать модулей. Такой подход обеспечил рост производительности в два с половиной раза. Разработчики отмечают, что их модели удерживали лидерство по размеру среди открытых систем.

Результаты тестирования показали впечатляющие показатели в сложных инженерных задачах. Kimi K3 превзошла проприетарные аналоги Claude Fable 5 и GPT-5.6 Sol в бенчмарках SWE Marathon и Program Bench. Модель способна вести длительные инженерные сессии практически без участия человека. Она уверенно ориентируется в крупных репозиториях и управляет терминальными инструментами. В тесте оптимизации GPU-ядер система работала автономно до двадцати четырех часов. На поздних этапах разработки ранняя версия K3 самостоятельно выполняла большую часть оптимизации. Также нейросеть с нуля написала компактный компилятор MiniTriton для графических процессоров. Этот инструмент включает собственный слой промежуточного представления и генерацию кода.

Возможности модели выходят далеко за рамки стандартного программирования. Kimi K3 самостоятельно спроектировала чип для нейросети всего за сорок восемь часов. В симуляции устройство выдает более 8700 токенов в секунду при частоте 100 МГц. Система также успешно воспроизвела сложные астрофизические соотношения всего за два часа. Для этого она проанализировала сотни научных статей и написала тысячи строк кода. Отдельно стоит отметить нативную работу с видео для создания интерактивных прототипов. Однако разработчики честно указывают на текущие ограничения системы. Модель чувствительна к потере истории при переключении агентной среды. Кроме того, удобство использования пока уступает ведущим проприетарным конкурентам.