Добавили ИИ-ассистента в Kubernetes-платформу: управление кластером на человеческом языке и планы на встроенную LLM

Привет, Хабр! Мы активно работаем над упрощением эксплуатации Deckhouse Kubernetes Platform (DKP). Недавно рассказывали, что полное управление платформой через веб-интерфейс стало доступно в бесплатной редакции DKP. Сегодня делаем следующий шаг — встраиваем туда ИИ-ассистента, так что попробовать его может любой и без коммерческой лицензии.

ИИ-ассистент упрощает работу и диагностику проблем в платформе (помогает разобраться в состоянии кластера, ресурсах и документации) и позволяет управлять ею на человеческом языке. Это не замена инженеру, но ассистент существенно снижает порог входа и когнитивную нагрузку.

Сейчас это альфа-версия, поэтому расскажем честно: что уже есть, чего пока нет и куда всё это движется.

Если не знакомы с Deckhouse Kubernetes Platform — почитать подробнее о ней можно на официальном сайте.

Ассистент — это чат-виджет в интерфейсе. Его можно свернуть, развернуть, перетаскивать по экрану — он не мешает работать.

Работает с любыми OpenAI-совместимыми моделями. К агенту надо подключить LLM-модель: указываете endpoint, имя модели и API-ключ — ассистент готов к работе. Он не привязан к конкретному провайдеру и работает с той LLM, которую вы ему укажете.

Настройка через UI. Администратор заполняет форму с параметрами модели прямо в интерфейсе: адрес API, имя модели, ключ, лимиты токенов. Не нужно копаться в конфигурациях.

Предупреждение о рисках. При включении ассистента пользователь видит предупреждение: данные из кластера (манифесты, логи, очередь) передаются в указанную LLM. Подключайте только те модели, которым доверяете.

Счётчик токенов. В интерфейсе видно, сколько токенов «съедает» каждый запрос к модели. Полезно для контроля затрат.

Работа с ресурсами кластера. По умолчанию ассистент работает в режиме чтения: