Microsoft выпускает полную модель Phi-4 с весами по лицензии MIT

Несмотря на то, что у Microsoft есть крупный инвестиционный партнер - OpenAI, который продолжает анонсировать более мощные модели обработки данных, такие как последняя серия o3, Microsoft не сидит сложа руки. Вместо этого компания занимается разработкой более мощных небольших моделей, выпущенных под собственным брендом.

Сегодня несколько нынешних и бывших исследователей и специалистов Microsoft по искусственному интеллекту объявили на X, что Microsoft выпускает свою модель Phi-4 в качестве полностью открытого проекта с загружаемыми весами на Hugging Face, в сообществе по обмену кодами AI.

«Мы были совершенно поражены реакцией на выпуск модели Phi-4» - написал главный инженер‑исследователь Microsoft AI Шитал Шах в X. «Многие просили нас выпустить веса. Некоторые даже загрузили пиратские веса Phi-4 на HuggingFace. Что ж, больше ждать не нужно. Сегодня мы выпускаем официальную модель Phi-4 на HuggingFace! С лицензией MIT!!»

Весовые коэффициенты относятся к числовым значениям, которые определяют, как языковая модель AI, большая или маленькая, понимает и выводит на печать текст и данные. Весовые коэффициенты модели устанавливаются в процессе обучения, как правило, с помощью глубокого обучения без учителя, в ходе которого модель определяет, какие результаты должны быть получены на основе получаемых входных данных. 

Весовые коэффициенты модели могут быть дополнительно скорректированы исследователями и создателями модели, которые добавляют собственные настройки, называемые смещениями, в модель во время обучения. Модель, как правило, не считается полностью открытой, если её весовые коэффициенты не опубликованы, так как именно это позволяет другим исследователям взять модель и полностью настроить её или адаптировать для своих целей.

Хо