Microsoft Mu — небольшая модель ИИ работает полностью локально в настройках Windows 11

Похоже, в Microsoft подумали, что в Windows мало искусственного интеллекта, а потому решили добавить его еще прямо в «Параметры». Потому что надо же чем-то загружать нейронные блоки, имеющиеся в современных чипах. Компания представила малую языковую модель Mu, которая поможет пользователям быстрее находить настройки в Windows 11.

Малые модели лучше подходят для локального выполнения прямо на вашем ноутбуке или ПК с NPU. Mu будет работать одновременно со знакомой языковой моделью Phi Silica, которую Microsoft интегрировала в Copilot+ PC. Обе языковые модели должны работать вместе, чтобы в будущем обеспечить «агентский» опыт в системных настройках. Другими словами, вместо того, чтобы копаться в десятках подменю, можно будет просто написать: «Сделай экран тусклее» или «Как включить ночной режим?», после чего Mu все сделает или подскажет.

Microsoft описывает Mu как эффективную модель с 330 млн параметров, оптимизированную для небольших развертываний. Она основана на трансформерной архитектуре кодера-декодера. Модель научили распознавать и отвечать на запросы пользователей так, чтобы все работало быстро, четко и без облачных задержек. Mu будет работать полностью на локальном NPU системы, обеспечивая ответы со скоростью более 100 токенов в секунду. Именно это и должно обеспечить плавный пользовательский опыт в настройках.

Microsoft разработала Mu как высокооптимизированную «сестру» Phi Silica, используя несколько методов для уменьшения количества параметров и повышения эффективности. Малая языковая модель обучалась с использованием графических процессоров NVIDIA A100 на платформе Azure Machine Learning, пройдя несколько фаз и применяя методы, разработанные во время работы над моделями Phi. Благодаря разнообразным оптимизациям,