Selectel запускает сервис для внедрения AI-моделей в бизнес

Foundation Models Catalog (FMC) — это инструмент для развертывания и управления AI-моделями на базе облачной инфраструктуры Selectel. Он дает компаниям и разработчикам готовые LLM, которые станут основой для создания AI-решений. Включая: системы генерации речи и другие I-инструменты. Подробности — под катом.

Foundation Models Catalog — это каталог для инференса open source GenAI-моделей. На старте в FMC входят преднастроенные решения от OpenAI, Alibaba (Qwen), DeepSeek и Mistral AI. Они рассчитаны на решение самых распространенных AI-задач: ускорение разработки кода, генерацию текстов и контента, автоматизацию продаж и поддержку клиентов с помощью чат-ботов, а также строить решения на основе RAG, где модель использует доступную информацию из внутренних документов для точных и релевантных ответов.

В каталоге FMC под каждую модель и выполняемую задачу можно подобрать подходящую конфигурацию инфраструктуры. Это исключает ошибки совместимости и гарантирует стабильную работу решения. Все open source модели сразу готовы к использованию в IT-инфраструктуре клиента, поэтому их можно запустить на сервере без глубокой экспертности в области ML.

Наконец, FMC работает на масштабируемой и безопасной облачной инфраструктуре Selectel, предоставляющей широкий выбор GPU для быстрого запуска и высокой производительности AI-моделей. С оплатой по модели pay-as-you-go без привязки к числу запросов или токенов. Вы можете выбирать параметры и уровни квантизации моделей, чтобы гибко управлять потреблением вычислительных ресурсов и контролировать расходы на их использование.

«Чтобы сохранить конкурентоспособность на фоне стремительного развития AI, компаниям нужны решения для быстрого внедрения новых технологий в бизнес-процессы. Ранее мы