Почему наблюдаемость так важна для экосистем ИИ-агентов?

На конференции Transform 2025 Ашан Уилли, генеральный директор New Relic, и Сэм Виттевен, генеральный директор и соучредитель Red Dragon AI, рассказали о том, как они внедряют агентные системы для измерения окупаемости инвестиций и составляют дорожную карту развития инфраструктуры для максимального использования агентного ИИ.

New Relic обеспечивает наблюдаемость для клиентов, собирая и сопоставляя данные телеметрии приложений, журналов и инфраструктуры в режиме реального времени. Наблюдаемость — это не просто мониторинг. Она позволяет командам получать контекст и аналитические данные, необходимые для понимания, устранения неполадок и оптимизации сложных систем даже в случае непредвиденных проблем. 

Сегодня это стало значительно более сложной задачей, поскольку в игру вступили генеративный и агентный ИИ. Наблюдаемость для компании теперь включает в себя мониторинг всего, начиная с Nvidia NIM, DeepSeek, ChatGPT и так далее. Использование ИИ-мониторинга выросло примерно на 30% по сравнению с предыдущим кварталом, что отражает ускорение внедрения.

«Ещё одна тенденция, которую мы наблюдаем, — это многообразие доступных вариантов, — сказал Уилли. — Компании начали с GPT, но теперь используют целый ряд моделей. Мы наблюдаем увеличение разнообразия используемых моделей примерно на 92%. И видим, что компании внедряют всё больше моделей. Вопрос в том, как измерить эффективность?»

Другими словами, как развивается наблюдаемость? Это сложный вопрос. Сценарии использования сильно различаются в зависимости от отрасли, а функциональность каждой отдельной компании зависит от ее размера и целей. Финансовая компания может быть нацелена на максимизацию показателя EBITDA, в то время как компания, ориентированная на продукт, измеряет скорость