AMD представила новые чипы для задач ИИ: Instinct MI300X и Instinct M1300A для ЦОД и Ryzen 8040 для ноутбуков

AMD подготовила к выпуску чипы для обработки задач искусственного интеллекта ─ запуска больших языковых моделей (LLM).

Помогаем

Поможем врагу с билетами на кобзона. Собираем на Mavic для наших защитников

Компания представила ускоритель Instinct MI300X и процессор Instinct M1300A (APU), которые предназначены для обучения и управления LLM. Оба новых чипа отличаются большим объемом памяти и улучшенной энергоэффективностью по сравнению с предшественниками. Компания заявила, что MI300X имеет в 1,5 раза больше памяти, чем предыдущая версия M1250X.

Во время презентации генеральный директор AMD Лиза Су сказала, что MI300X «является самым производительным ускорителем в мире». Она заявила, что MI300X сравним с чипами Nvidia H100 в обучении LLM, но работает лучше на стороне вывода — в 1,4 раза лучше, чем H100, при работе с Meta Llama 2, LLM с 70 млрд параметров.

AMD заключила партнерское соглашение с Microsoft, чтобы разместить MI300X на ее виртуальных машинах Azure. Технический директор Microsoft Кевин Скотт также объявил, что виртуальные машины Azure ND MI300X, впервые представленные в ноябре, теперь доступны в предварительной версии. Meta также объявила, что развернет процессоры MI300 в своих центрах обработки данных.

Чипы APU объединяют CPU и GPU для более быстрой обработки данных. AMD заявила, что MI300A предлагает более производительные вычисления, более быстрое обучение моделей и 30-кратное повышение энергоэффективности. Также отмечается, что по сравнению с H100 у нового чипа в 1,6 раза больше памяти. Он также имеет унифицированную память, поэтому больше нет необходимости перемещать данные с разных устройств.

APU MI300A «сейчас находится в производстве и интегрируется в центры обработки данных». Информация о ценах пока не