NVIDIA анонсировала Grace Hopper — суперчип для ИИ, а также суперкомпьютер DGX GH200 на его основе

Во время проведения выставки Computex 2023 глава Nvidia Дженсон Хуан заявил о начале массового производства суперчипов Grace Hopper. Они являются основой новой платформы суперкомпьютеров DGX GH200, которая предназначена для создания высокопроизводительных систем и крупномасштабных приложений генеративного ИИ.

Чип Grace — это собственный 72-ядерный Arm CPU Nvidia. В то же время суперчип Grace Hopper сочетает в одной упаковке процессор Grace, GPU Hopper, 96 ГБ памяти HBM3 и 512 ГБ памяти LPDDR5X. Такой суперчип содержит 200 млрд транзисторов. Данная конфигурация обеспечивает пропускную способность между CPU и GPU на уровне 1 ТБ/с, что дает огромное преимущество для определенных рабочих нагрузок, связанных с памятью.

Nvidia DGX — это стандартная система и эталонная архитектура для высоких рабочих нагрузок ИИ и высокопроизводительных вычислений. Нынешняя система DGX A100 ограничена восемью GPU A100, работающими в тандеме. Новая система DGX H200 разработана для тех задач, где нужна более высокая производительность и максимальная пропускная способность. Это могут быть задачи по обучению генеративных систем ИИ, работа больших языковых моделей, аналитика данных.

Система DGX H200 включает уже 256 суперчипов Grace Hopper и 144 ТБ общей памяти (в DGX A100 доступно лишь 320 ГБ общей памяти). Вычислительные блоки объединены с помощью технологии NVLink Switch, которая обеспечивает до 10 раз большую пропускную способность GPU-to-GPU и 7-кратный прирост пропускной способности CPU-to-GPU по сравнению с предыдущим поколением. Система совокупно включает 150 миль (241,4 км) оптоволоконных соединений и весит около 18,1 тонны, при этом представляя собой единый GPU. Nvidia заявляет, что 256 суперчипов Grace Hopper обеспечивают DGX GH200