ИИ-агенты за пределами чат-бота: платформа, мультиагентность, безопасность и путь в прод — новый выпуск подкаста ГНИВЦ

Вышел новый выпуск подкаста ГНИВЦ, посвящённый теме, которая окончательно вышла из лабораторий в продакшен— ИИ-агенты.

Гости выпуска:

Анастасия Рождественская — руководитель комплексных проектов отдела ИИ, ГНИВЦ

Кирилл Двуреченский — руководитель технической части внедрения ИИ, ГНИВЦ

О чём говорили:

🔹 Платформа vs. голая LLM — почему просто «загрузить модельку» недостаточно и зачем строить ИИ-экосистему. Как единая платформа решает проблему коллизий между командами, обеспечивает версионность компонентов и даёт прогнозируемость по сайзингу мощностей и капиталоёмкости.

🔹 MVP в ИИ ≠ продакшен — почему это критично донести до ЛПР. Реальный опыт: несколько команд параллельно пилят компоненты одной системы, а на этапе интеграции — всё разваливается.

🔹 Мультиагентные системы — как внутри одной точки входа может работать целое сообщество агентов: с валидацией, обменом контекстом и разграничением ролей. Агенты, которые выходят за пределы сетей и влияют на реальные бизнес-процессы.

🔹 Версионность данных и RAG — хаотизация данных, дисциплина сбора и хранения корпоративных знаний. Почему внедрение ИИ побуждает организацию трансформировать бизнес-процессы (даже заставляет команды писать документацию).

🔹 Prompt-инжиниринг на стероидах — промпты с ветвлением, системные правила проектов в IDE, разница между пользовательским запросом и техническим промптом агента.

🔹 Безопасность ИИ в госсекторе — ролевая модель доступа, закрытый контур, защита от prompt-инъекций и jailbreak. Реальные кейсы: модели с вшитыми ссылками на сторонние домены, утечка телеметрии. Исследование Red Hat — атака через локальное окружение LLM на устройстве пользователя.

🔹 Тёмная сторона — рынок «взломанных» моделей в даркнете: подписки, франшизы, фишинг и генерация