Вопреки опасениям инвесторов о том, что ужесточение требований безопасности снизит спрос на оборудование, ведущие разработчики передовых моделей на саммите AI Infra Summit заявили: обеспечение безопасности и согласованности ИИ – крайне ресурсоемкие процессы, которые будут стимулировать рост инфраструктурных расходов. Об этом говорится в исследовательском отчете Citi. Вывод прозвучал в первый день конференции в Санта-Кларе: аналитики отметили, что обеспечение масштабных вычислительных мощностей, энергоснабжения и производственных площадей, а не только инновации в архитектуре моделей, стало главным узким местом для отрасли. ЦОД нового поколения проектируются с расчетом на размещение на 30–40% большего числа GPU, а платформы оркестрации вроде Astra и аппаратные обновления, в частности Nvidia Vera Rubin, призваны оптимизировать сквозную пропускную способность.
Ян Бак, вице-президент Nvidia по Hyperscale и HPC, рассказал, что переход от чат-ботов к автономному агентному ИИ многократно увеличивает требования к оборудованию. По его словам, агентные нагрузки примерно в 100 раз требовательнее чат-приложений образца 2023 года – из-за экспоненциального роста длины входных последовательностей, размеров KV-кэша, многоходовых взаимодействий и порождения подагентов.
Генеральный директор Intel Лип-Бу Тан обозначил стратегический разворот компании: от традиционного поставщика процессоров к поставщику полного стека инфраструктуры для ИИ. По его словам, по мере смещения конкуренции от «сырой» мощности GPU к оптимизации на уровне систем процессоры останутся ключевыми для обучения с подкреплением, слоев оркестрации и агентных рабочих процессов. Для ускорения решений Тан упростил структуру управления Intel, сократив число уровней иерархии с 10–12 до 4–5. В части производства он подтвердил, что техпроцесс Intel 18A запущен в серийное производство, а узел 14A приближается к выходу на рынок при поддержке PDK 0.9 в октябре и PDK 1.0 в следующем квартале.
Похожие статьи
