Чипы AMD MI350 обеспечивают большой объём памяти, но уступают Nvidia в сетевых технологиях

AMD стремится бросить вызов доминированию Nvidia на рынке чипов для искусственного интеллекта с помощью своих новых ускорителей серии Instinct MI350. Компания надеется, что эти чипы обеспечат преимущества при определённых рабочих нагрузках и снизят общие затраты, но программное обеспечение остаётся камнем преткновения.

Недавно компания AMD представила два новых чипа для искусственного интеллекта — Instinct MI350X и MI355X, основанные на новейшей архитектуре CDNA 4 и изготовленные по 3-нанометровому техпроцессу TSMC. Каждый чип содержит до 185 миллиардов транзисторов и поддерживает новые форматы данных, такие как FP4 и FP6. Обе модели оснащены 288 гигабайтами памяти HBM3E, что крайне важно для приложений ИИ.

MI350X с воздушным охлаждением потребляет 1000 Вт, в то время как MI355X потребляет 1400 Вт и может охлаждаться воздухом или жидкостью. На бумаге MI355X имеет лишь немного более высокий рейтинг TFLOPS, чем MI350X, но SemiAnalysis ожидает, что его реальная производительность будет более чем на 10% выше.

По данным SemiAnalysis, MI355X может конкурировать с HGX B200 от Nvidia с точки зрения производительности на единицу совокупной стоимости владения (TCO) для определённых задач ИИ, особенно при работе с языковыми моделями малого и среднего размера. TCO учитывает не только цену покупки, но и энергопотребление и обслуживание, и AMD заявляет о 33% преимуществе для автономных систем. AMD утверждает, что MI355X предлагает в 1,6 раза больше памяти и в 2,2 раза более высокую производительность FP6, чем B200 от Nvidia. Однако, по данным SemiAnalysis, при вычислениях FP4 B300 от Nvidia в 1,3 раза быстрее, чем MI355X.

Таким образом, MI350 выглядит как настоящий конкурент. Но по сравнению с системой Nvidia высшего уровня GB200 NVL72,