Microsoft представила агента с искусственным интеллектом в меню настроек Windows

В Windows появится новый помощник с искусственным интеллектом, который сможет изменять системные настройки с помощью команд на естественном языке. Новая языковая модель Мu работает полностью автономно на специализированных чипах с искусственным интеллектом, но пока она доступна только небольшой группе пользователей.

Вместо того чтобы копаться в меню, пользователи могут вводить такие команды, как «Увеличить яркость экрана», или описывать проблемы, например «Мой указатель мыши слишком маленький». Агент встроен в существующее поле поиска настроек и, по словам Microsoft, отвечает менее чем за полсекунды.

В основе работы ассистента лежит новая языковая модель под названием Мu, которую Microsoft разработала специально для этой задачи. Модель содержит 330 миллионов параметров и использует архитектуру «кодировщик-декодировщик», которая, по словам Microsoft, намного эффективнее, чем модели, использующие только декодер, которые обычно применяются сегодня.

В этой системе кодировщик обрабатывает вводимые пользователем данные один раз и преобразует их во внутреннее представление. Затем декодировщик генерирует соответствующие команды Windows. По словам Microsoft, такое разделение сокращает время отклика на 47% и повышает скорость обработки в 4,7 раза по сравнению с аналогичными моделями.

Mu полностью работает на нейронных процессорах (NPU), которые используются в ПК с Copilot+. Эти специализированные чипы ИИ оптимизированы для задач машинного обучения и позволяют модели обрабатывать более 100 токенов в секунду. По словам Microsoft, система может обрабатывать более 200 токенов в секунду на ноутбуке Surface Laptop 7.

Чтобы оптимизировать Mu для аппаратного обеспечения NPU, Microsoft использовала квантование после обучения, преобразуя веса