AMD Helios: 72 ускорителя Instinct MI455X в единой стойке против NVL72

20 июля AMD раскрыла полные характеристики своей ИИ-стойки Helios™ и одновременно объявила о крупной сделке. Microsoft начнет разворачивать эти стойки в дата-центрах Azure^® во второй половине 2026 года. Чуть более формальная и официальная премьера состоится на днях — на мероприятии Advancing AI. Но главное в новости то, что AMD впервые выходит на рынок не с отдельными ускорителями, а с готовой стойкой целиком. В этой стойке свои GPU, свои CPU, своя сеть и свой софт. Сейчас это отчасти умеет делать Huawei, а основным игроком на рынке выступает, конечно, NVIDIA с их стоечными системами.

В основе стоечной системы 72 ускорителя Instinct™ MI455X, процессоры EPYC™ 9006 (шестое поколение, кодовое имя Venice) и сетевые DPU Pensando™. Всё это с жидкостным охлаждением и в открытом стоечном форм-факторе OCP. 

Всего в стойке 18 вычислительных узлов, в каждом четыре GPU и один CPU.

Стойка весит примерно три тонны, потребляет до 245 кВт и стоит порядка 5,5 млн $ по оценке CNBC. 

Технические характеристики GPU:

в каждом MI455X 432 ГБ памяти HBM4;

пропускная способность 19,6 ТБ/с;

в сумме по стойке 31 ТБ HBM4, до 2,9 эксафлопс в FP4 и 1,4 эксафлопса в FP8.

Процессорная часть Zen™ 6. По данным источников, EPYC™ 9006 Venice — первый серверный чип на 2-нм техпроцессе TSMC. В линейке — процессоры до 256 ядер и 512 потоков на сокет.

Сетевая обвязка: 260 ТБ/с внутристоечной (scale-up) пропускной способности и 43 ТБ/с между стойками (scale-out) через UALink over Ethernet.

Софт: ROCm™, валидированный под PyTorch^®, TensorFlow™, JAX, vLLM и DeepSpeed. 

Предшественником системы можно считать семейство MI350X, однако серверы с такими GPU в принципе не поставлялись AMD в виде стоечных систем.

Скачок заметный, у MI350X было 288 ГБ HBM3e и 8 ТБ/с пропускной