Мы интегрировали ИИ-ассистента в систему защиты от утечек. Вот, что он умеет

Недавно мы внедрили в нашу систему защиты от утечек (DLP) «СёрчИнформ КИБ» ИИ-модуль для оптимизации процессов безопасности. Со встроенным ИИ-модулем система научилась выявлять скрытые инциденты, которые невозможно обнаружить стандартными методами – коротко рассказываем, как это работает.

Это «ИИ Ассистент КиберЗащиты» от компании «Системные технологии» – локально работающая большая языковая модель (LLM), заранее натренированная на распознавание инцидентов внутренней безопасности. Она анализирует сообщения и файлы в корпоративной почте и мессенджерах, и выявляет сложные инциденты, которые невозможно обнаружить стандартными методами.

У него три основные задачи.

Новый инструмент определяет контекст переписки и распознает скрытые признаки нарушений. 

ИИ-модуль работает по предустановленным промптам, доступным в «СёрчИнформ КИБ» в виде готовых ИИ-политик безопасности. По этим промптам система выявляет угрозы в диалогах в почте и мессенджерах и присваивает им метки. Например, «откат», «просьба перевода на карту», «воровство» или «раскрытие коммерческой тайны». Такую классификацию может выполнить только ИИ-модуль, поскольку он понимает контекст, бизнес-процессы и учитывает тональность общения.

Контекст важно учитывать и при поиске других нарушений внутренней безопасности: мошеннических схем, откатов, саботажа и др. Ведь когда слово «премия» звучит в письме от HR/руководителя – это норма, но в переписке между закупщиком и поставщиком – высокий риск. ИИ это умеет. А заодно «смотрит шире»: в отличие от стандартных политик безопасности, ИИ-политики обрабатывают сразу цепочки писем и целые ветки в чатах, а не сообщения по отдельности. Поэтому фиксируют инцидент, даже если его признаки разбросаны в длинном обсуждении.

Сейчас модуль «ИИ