Alibaba открыла исходный код AI-стека SAIL: вызов экосистеме CUDA

Alibaba представила открытый программный стек SAIL(Snow AI Infrastructure Layer) для собственных AI-ускорителей Zhenwu. Проект был анонсирован на конференции World AI Conference (WAIC), а его исходный код станет доступен разработчикам по открытой лицензии.

Alibaba пытается решить проблему, которую многие аналитики считают главным источником лидерства Nvidia на рынке искусственного интеллекта, — зависимость разработчиков от экосистемы CUDA.

За последние годы Nvidia превратилась из производителя графических процессоров в поставщика полноценной программно-аппаратной платформы для искусственного интеллекта.

Практически любой современный стек машинного обучения так или иначе опирается на CUDA, а также связанные с ней библиотеки — cuDNN, NCCL, TensorRT и другие компоненты. Именно под них оптимизируются PyTorch, TensorFlow, JAX и большинство инструментов для обучения и инференса моделей.

В результате даже если альтернативный ускоритель оказывается дешевле, энергоэффективнее или производительнее в отдельных сценариях, переход на него редко ограничивается заменой оборудования. Компаниям приходится адаптировать код, переписывать отдельные компоненты, менять инструменты оптимизации и заново тестировать рабочие нагрузки.

Эффект vendor lock-in считается одним из главных конкурентных преимуществ Nvidia.

По данным компании, SAIL включает ключевые компоненты программной платформы для AI-ускорителей: компилятор, драйверный слой, API для выполнения вычислений, инструменты интеграции с популярными AI-фреймворками.

Alibaba заявляет, что существующие ИИ-проекты можно адаптировать под SAIL менее чем за неделю. Пока это заявление не получило независимого подтверждения.

Открытый исходный код также должен упростить развитие экосистемы силами сторонних