Microsoft выпустила компактную модель ШИ Phi-3 Mini для смартфонов

Корпорация Microsoft представила новую версию своей легкой модели искусственного интеллекта Phi-3 Mini, предназначенную для использования на мобильных устройствах и ноутбуках. Это первая из трех анонсированных компактных моделей AI.

Об этом пишет The Verge.

Phi-3 Mini имеет 3,8 миллиарда параметров (т.е. сколько сложных инструкций может понять модель) , что делает ее менее ресурсоемкой по сравнению с большими языковыми моделями, такими как GPT-4. Она доступна на Azure, Hugging Face и Ollama .

По словам вице-президента Microsoft Azure AI Эрика Бойда, Phi-3 Mini столь же мощна, как GPT-3.5, однако в меньшем форм-факторе. Microsoft планирует выпустить также Phi-3 Small (7 миллиардов параметров) и Phi-3 Medium (14 миллиардов параметров).

Phi-3 Mini хорошо справляется с разными задачами – от математики до программирования и академических тестов на простых устройствах, таких как смартфоны, и не требует подключения к интернету.

Бойд объясняет, что Phi-3 училась по специальной "учебной программе", следуя способу, которым дети учатся из детских книг. Для этого команда разработчиков создала более 3000 упрощенных обучающих текстов.

Издание отмечает, что по сравнению с большими аналогами малые модели AI часто дешевле в эксплуатации и работают лучше на персональных устройствах, таких как телефоны и ноутбуки.

Однако, хотя Phi-3 и владеет общими знаниями, он не может достичь уровня больших языковых моделей, натренированных по всему интернету.

Бойд говорит, что компании часто обнаруживают, что меньшие модели, такие как Phi-3, лучше работают для их пользовательских программ, поскольку для многих компаний их внутренние наборы данных все равно будут меньше. А поскольку эти модели потребляют меньше вычислительной мощности, они зачастую