Компания Nvidia провела успешный технический эксперимент по автоматизации дообучения. Для этой задачи они использовали продвинутого ИИ-агента Codex. Объектом исследования стала модель Cosmos 3 Nano. Точность этой нейросети на тесте с четырьмя вариантами ответа заметно выросла. Показатель увеличился с 54,41% до впечатляющих 93,35%. Весь этот процесс занял менее одних суток. Основные этапы сложного дообучения выполнил именно искусственный интеллект. Агент действовал строго по заранее подготовленным инструкциям системы TAO. Эксперимент проводился на специализированном наборе данных Woven Traffic Safety. Этот датасет разработан компанией Woven by Toyota. Он содержит видеозаписи различных дорожных ситуаций. Также в нем есть вопросы с четырьмя вариантами ответа. Для полноценного обучения и последующей проверки использовали более восьми тысяч примеров.

Изначально без дополнительной адаптации модель Cosmos 3 Nano давала скромные результаты. Она правильно ответила лишь на 54,41% вопросов. Затем разработчики поручили агенту Codex оценить базовую версию. Также ему дали задачу провести дообучение эффективным методом LoRA. Этот метод не изменяет все параметры огромной модели. Он обучает лишь небольшие дополнительные адаптеры. По расчетам специалистов Nvidia, такой подход потребовал в семь раз меньше ресурсов. Это значительная экономия GPU-часов по сравнению с полным дообучением. Первый прогон LoRA занял всего около тридцати минут. Вычисления проводились на восьми ускорителях NVIDIA A100 с памятью 80 ГБ. Точность модели сразу выросла до отметки 87,14%. Агент самостоятельно выбрал инструкцию, проверил аннотации и нашел ошибку. Он обнаружил отсутствующий параметр частоты кадров в конфигурации. После исправления агент загрузил веса и запустил обучающий контейнер.

Вторым шагом разработчики запустили систему TAO AutoML. Она подобрала скорость обучения, размер пакета и параметры LoRA. Система провела сорок три параллельных испытания для поиска идеальных настроек. Лучший результат с применением байесовской оптимизации составил 93,35%. Этот важный этап занял девятнадцать с половиной часов. Вычисления шли на нескольких узлах A100 в облаке Oracle. Агент Codex в этом эксперименте не ограничивался простым анализом. Он выбирал рабочий процесс, проверял данные и исправлял конфигурацию. Однако его автономность оставалась ограниченной рамками заданных инструкций. Важно отметить, что показатель 93,35% отражает лишь точность на одном датасете. Он не измеряет реальную безопасность автономного вождения. Ранее в июне исследователи Nvidia и ведущих университетов представили фреймворк ENPIRE. Он позволяет ИИ-агентам улучшать политики управления роботами на реальном оборудовании.