Ответ на Kimi K3: зачем Alibaba выкатила 2,4-триллионную Qwen3.8

На конференции WAIC в Шанхае Alibaba представила Qwen3.8 — новую мультимодальную модель на 2,4 трлн параметров. По заявлению компании, архитектура уступает по производительности только Claude Fable 5, хотя независимых бенчмарков пока нет.

Куда интереснее другой анонс: разработчики пообещали в ближайшее время выложить веса Qwen3.8 в открытый доступ. Предыдущий флагман компании, Qwen3.7-Max, распространялся исключительно по API.

Если смотреть на релиз через призму инфраструктуры и рынка, вырисовывается вполне прагматичная картина. А теперь, давайте поподробнее.

Если обещание будет выполнено, Qwen3.8 станет самой крупной ИИ-моделью с открытыми весами, когда-либо выпущенной Alibaba, и задаст новую планку для всего open-source сообщества. Но нужно понимать, что 2,4 триллиона параметров — это объем, который делает открытый доступ номинальным для 99% разработчиков.

В формате bf16 веса займут около 4,8 ТБ. Даже если квантовать модель до 4 бит (int4), потребуется порядка 1,2 ТБ видеопамяти только под сами веса. 

С учетом контекстного окна (KV-кэша) минимальный сетап для инференса такой модели — это кластер из 16–20 ускорителей класса H100 (по 80 ГБ). Капитальные затраты на такую инфраструктуру огромны, поэтому для тестов или дообучения подобных моделей бизнесу сегодня гораздо прагматичнее использовать готовые GPU-кластеры, чем сначала пытаться собрать их on-premise.

Динамика семейства Qwen за последние два года показывает, как быстро китайский бигтех заносит ресурсы в объемы: разработчики форсируют закон Мура, сменив постепенную эволюцию на агрессивную циклическую стратегию.

График демонстрирует 33-кратный рост объема параметров флагманских ИИ-моделей: от Qwen2.5-72B до мультитриллионной Qwen3.8 (2400B). Если вас привлек локальный спад