Rubin Ultra от NVIDIA: первый чип для GPU с 1 ТБ памяти

NVIDIA в понедельник продемонстрировала новое поколение платформы для дата-центров — tray-решение для GPU Rubin Ultra. Чип использует 4 вычислительных чиплета и оснащен 1 ТБ памяти HBM4E. Это делает его первым в отрасли AI-ускорителем с терабайтом памяти.

Релиз чипа запланирован на 2027 год. Платформа базируется на новой rack-scale архитектуре Kyber, которая объединяет 144 GPU-пакета, значительно повышая производительность по сравнению с текущими системами NVL72. Судя по демонстрации, пакет Rubin Ultra из четырех чиплетов использует новую технологию упаковки, однако точная реализация GPU неизвестна, поскольку теплораспределитель закрывает кристалл. Также нет подтверждения, завершена ли стадия tape-out.

Привлекает внимание относительно небольшой размер пакета, что может свидетельствовать об использовании стековой архитектуры, хотя это лишь предположение. Tray Rubin Ultra почти полностью лишен кабелей, что упрощает сборку серверов. В то же время это может означать, что NVIDIA будет продавать готовые tray-модули, уменьшая роль партнеров до составления rack-систем, а не разработки собственных материнских плат и серверных платформ.

Вместе с Rubin Ultra компания внедряет новый тип стоек Kyber, которые используют вертикальное размещение tray вместо горизонтального, а также жидкостное охлаждение по умолчанию. Такая конфигурация позволяет разместить 144 GPU-пакета в одной стойке. Системы Kyber NVL144 на базе Rubin Ultra обеспечат как минимум вчетверо более высокую производительность по сравнению с Oberon NVL72, поскольку удваивается как количество GPU-чиплетов в пакете, так и общее количество пакетов. Кроме того, стойка Kyber от NVIDIA обновит коммутатор NVLink с шестого поколения до седьмого поколения, который сохранит скорость