Meta* представила четыре поколения чипов для искусственного интеллекта, призванных снизить затраты на обработку данных

Компания Meta* представила четыре новых поколения специализированных чипов для искусственного интеллекта - MTIA 300, 400, 450 и 500, - разработанных для того, чтобы сделать эксплуатацию ИИ на своих платформах более экономичной.

Эти чипы разрабатываются в партнерстве с Broadcom и призваны сделать ИИ более экономически эффективными для миллиардов пользователей платформы. Meta* заявляет, что цикл разработки каждого поколения чипов составляет примерно шесть месяцев. При переходе от MTIA 300 к MTIA 500 пропускная способность памяти (HBM) увеличивается в 4,5 раза, а вычислительная мощность возрастает в 25 раз.

Согласно Meta*, MTIA 300 оптимизирован для моделей ранжирования и рекомендаций (R&R) и уже находится в производстве . MTIA 400 - это первое поколение, которое, по словам компании, может конкурировать с ведущими коммерческими продуктами по производительности. Стойка из 72 чипов образует единый масштабируемый домен. MTIA 400 прошел лабораторные испытания и в настоящее время внедряется в центры обработки данных.

MTIA 450 и 500 специально оптимизированы для вывода генеративного ИИ. По данным Meta*, MTIA 450 вдвое увеличивает пропускную способность HBM по сравнению с MTIA 400, превосходя существующие коммерческие продукты. Чипы поддерживают форматы данных с низкой точностью, такие как MX4 и MX8, что снижает вычислительную мощность, необходимую для вывода, без существенного ухудшения качества модели. MTIA 500 добавляет еще 50 процентов пропускной способности HBM и до 80 процентов большей емкости HBM. Серийное производство обоих чипов запланировано на 2027 год.

Метрическая система

MTIA 300

MTIA 400

MTIA 450

MTIA 500

Фокусировка рабочей нагрузки

Обучение R&R

Общий

Вывод GenAI

Вывод GenAI

Модуль TDP

800 Вт

1200 Вт

1400 Вт

1700 Вт

Полоса