Contrariamente a las preocupaciones de los inversores de que el endurecimiento de los requisitos de seguridad reduciría la demanda de equipos, los principales desarrolladores de modelos avanzados en la cumbre AI Infra Summit declararon: garantizar la seguridad y coherencia de la IA son procesos extremadamente intensivos en recursos que impulsarán el crecimiento del gasto en infraestructura. Esto se menciona en un informe de investigación de Citi. La conclusión se presentó en el primer día de la conferencia en Santa Clara: los analistas señalaron que garantizar grandes capacidades computacionales, suministro de energía y espacios de producción, y no solo innovaciones en la arquitectura de modelos, se ha convertido en el principal cuello de botella para la industria. Los centros de datos de nueva generación están diseñados para albergar un 30-40% más de GPU, y plataformas de orquestación como Astra y actualizaciones de hardware, en particular Nvidia Vera Rubin, están destinadas a optimizar la capacidad de procesamiento de extremo a extremo.
Ian Buck, vicepresidente de Nvidia para Hyperscale y HPC, comentó que la transición de chatbots a IA de agentes autónomos multiplica los requisitos de hardware. Según él, las cargas de trabajo de los agentes son aproximadamente 100 veces más exigentes que las aplicaciones de chat del año 2023, debido al crecimiento exponencial de la longitud de las secuencias de entrada, el tamaño del caché KV, las interacciones de múltiples pasos y la generación de subagentes.
El director general de Intel, Lip-Bu Tan, señaló un cambio estratégico de la compañía: de un proveedor tradicional de procesadores a un proveedor de infraestructura completa para IA. Según él, a medida que la competencia se desplaza de la potencia 'bruta' de las GPU a la optimización a nivel de sistemas, los procesadores seguirán siendo clave para el aprendizaje por refuerzo, las capas de orquestación y los procesos de trabajo de los agentes. Para acelerar las soluciones, Tan simplificó la estructura de gestión de Intel, reduciendo el número de niveles jerárquicos de 10-12 a 4-5. En cuanto a la producción, confirmó que el proceso tecnológico Intel 18A se ha lanzado a producción en serie, y el nodo 14A se acerca al mercado con el apoyo de PDK 0.9 en octubre y PDK 1.0 en el próximo trimestre.
Artículos relacionados
