Глава корпорации Dell Майкл Делл обнародовал прогноз, согласно которому спрос на память для инфраструктуры искусственного интеллекта возрастает в 625 раз к 2028 году.

Он исходит из того, что объем памяти на один ускоритель вырастет в 25 раз, а количество самих ускорителей – также в 25 раз. Предприниматель отметил, что наращивание выпуска требует длительного времени, тогда как нужда в ИИ-оборудовании не ослабевает.

Смена поколений графических процессоров NVIDIA служит подтверждением этой тенденции: при переходе от архитектуры Ampere к Vera Rubin потребление памяти выросло многократно. Дело не только в эволюции HBM, но и во внедрении свежих стандартов вроде SOCAMM. Сравнение чистой емкости от Hopper до Vera Rubin с HBM4 и SOCAMM показывает разрыв в 22,8 раза, а суммарный показатель на ускоритель приближается к 1824 ГБ. По мере смещения отрасли к задачам инференса требования к памяти продолжат ужесточаться.