Агенты и фабрики AI: Как теневой AI меняет правила игры в 2025 году

Более десяти лет назад системы на основе “восприятия AI” помогали находить закономерности в данных и делать прогнозы, но эти возможности были ограничены. AI тогда отвечал только на вопросы, которые уже имели известные ответы, например: “Это собака или кошка на фото?” или “Это пешеход, переходящий дорогу?”. С появлением “генеративного AI” ситуация изменилась. Теперь мы можем создавать новый контент — текст, изображения, звук, видео — на основе наших запросов. Вместо того чтобы просто получать ответ на уже заданный вопрос, мы создаем что-то новое, используя все доступные данные, которые могут обрабатывать современные модели AI.

Следующий шаг — это “агентный AI”. Это такие цифровые агенты, которые учатся у нас, воспринимают информацию, могут поэтапно решать сложные задачи и принимать решения самостоятельно. Эти агенты способны справляться с многослойными проблемами, взаимодействуя друг с другом, формулировать решения и выполнять задачи. Например, в цепочках поставок такие агенты могут предсказывать потребности клиентов, взаимодействовать с клиентскими службами и корректировать запасы на складах. Это позволит любому сотруднику получать поддержку от группы агентных помощников, которые помогут справляться с большими и сложными задачами с меньшими усилиями.

Но с ростом популярности генеративного и агентного AI появляются и новые проблемы для IT-команд. Многие компании сталкиваются с явлением, называемым “теневой AI”. Во-первых, AI-приложения для потребителей развиваются очень быстро, и многие сотрудники компаний начинают их использовать в рабочей среде, передавая через них конфиденциальные данные и информацию о клиентах. Однако не все эти сервисы обладают достаточным уровнем защиты, что создает риски для компаний. Во-вторых,