CEO CertiK предупредил о надвигающейся катастрофе из-за массового внедрения ИИ-агентов

• В компании считают, что автономные ИИ-системы создают масштабные риски для корпоративной безопасности.
• Злоумышленники могут захватывать агентов через вредоносные инструкции, плагины и поддельные зависимости.
• Эксперты призывают отказаться от доверительной модели в пользу архитектуры нулевого доверия.

Глобальное распространение ИИ-агентов может привести к масштабному кризису кибербезопасности, если компании продолжат внедрять такие системы без должной защиты. Об этом заявил соучредитель и генеральный директор CertiK Ронгхуэй Гу.

По его словам, многие организации уже предоставляют ИИ-агентам доступ к локальным файлам, учетным данным, электронной почте и финансовым сервисам. При этом они не оценивают возможные последствия компрометации таких систем, считает эксперт.

Гу отметил, что современные агенты выполняют гораздо более сложные функции, чем обычные чат-боты. Они способны запускать рабочие процессы, использовать внешние инструменты, взаимодействовать с корпоративными сервисами и финансовой инфраструктурой.

В результате компрометация одного агента может открыть злоумышленникам широкий доступ к внутренним системам компании.

По мнению главы CertiK, ключевая проблема заключается в том, что разработчики продолжают строить инфраструктуру вокруг ошибочной модели доверия. Они предполагают, что локальный запуск программ автоматически делает их безопасными, подчеркнул специалист.

Хакеры используют ИИ против других автономных систем

Согласно исследованию CertiK, многие популярные агентные фреймворки содержат сотни предупреждений о безопасности, неустраненные уязвимости и проблемы с разграничением доступа.

Особую угрозу представляют