Mistral выпустила новые модели искусственного интеллекта, оптимизированные для ноутбуков и телефонов

Французский стартап Mistral выпустил свои первые генеративные модели искусственного интеллекта, специально разработанные для работы на устройствах с ограниченными вычислительными ресурсами, таких как ноутбуки и смартфоны. Эти модели, объединённые в линейку под названием «Les Ministraux», предназначены для выполнения широкого спектра задач — от генерации текста до работы в связке с более мощными моделями для решения сложных задач.

На сегодняшний день доступны две модели: Ministral 3B и Ministral 8B. Обе они имеют впечатляющее контекстное окно в 128 000 токенов, что позволяет им обрабатывать объём текста, эквивалентный 50-страничной книге. Это открывает возможность для работы с большими объемами данных без потери контекста, что особенно важно для сложных вычислительных задач.

Mistral заявляет, что их новые модели рассчитаны на сценарии, требующие низкой задержки и высокой вычислительной эффективности. Среди таких сценариев — перевод на устройстве, локальные интеллектуальные помощники, работа без интернета, автономная робототехника и локальная аналитика.

Сегодня всё больше компаний ищут способы обработки данных локально — прямо на устройствах пользователей, без необходимости подключения к облаку. Это позволяет повысить конфиденциальность данных и снизить зависимость от интернета. В своём блоге Mistral подчёркивает, что «Les Ministraux» созданы именно для таких целей.

Ministral 8B уже доступна для скачивания, но только для исследовательских целей. Для коммерческого использования разработчикам и компаниям необходимо связаться с Mistral для получения лицензии. В ближайшие недели обе модели, Ministral 3B и Ministral 8B, можно будет использовать через облачную платформу стартапа Le Platforme или через партнёрские облачные сервисы.

Ст