NVIDIA представила аппаратные ускорители для ChatGPT, обработки видео с помощью ИИ, генеративных и других моделей

Производитель видеокарт и оборудования для дата-центров представил четыре ускорителя искусственного интеллекта. Устройства NVIDIA оптимизированы для работы на них различных вариантов ИИ – языковых моделей (LLM), таких, как ChatGPT, обработки видео с помощью ИИ, графических генеративных моделей, а также нейронных сетей и баз данных:

Устройство служит универсальным графическим процессором для любой рабочей нагрузки, связанной с обработкой видео. Ускоритель предлагает расширенные возможности декодирования и перекодирования видео, потоковой передачи, дополненной реальности, ИИ-генерации видео и других смежных задач.

NVIDIA L40 для генерации изображений – платформа оптимизирована для создания и работы с двухмерной и трехмерной графикой с упором на технологии генеративного искусственного интеллекта. Устройство L40 служит ядром NVIDIA Omniverse, платформы для создания и эксплуатации приложений метавселенной, обеспечивая 7-кратное увеличение производительности вывода для Stable Diffusion и 12-кратное увеличение производительности Omniverse по сравнению с предыдущим поколением специализированных ускорителей для ЦОД.

NVIDIA H100 NVL – для развертывания больших языковых моделей LLM, таких, как ChatGPT. Устройство H100 NVL с ускорением Transformer Engine обеспечивает до 12 раз более высокую производительность логических операций GPT-3 по сравнению с предыдущим поколением A100 в масштабе центра обработки данных.

NVIDIA Grace Hopper – для рекомендательных графовых моделей, векторных баз данных и нейронных сетей. Благодаря соединению NVLink-C2C со скоростью 900.