Кибербезопасность, Data Science и бизнес-анализ в большом банке: о чем говорили на Техновечере Газпромбанк.Тех

5 марта команда Газпромбанк.Тех провела Техновечер — митап для студентов и начинающих ИТ-специалистов.

180 участников, четыре выступления, круглый стол с полуфиналистами Молодежной программы Финополис 365 и нетворкинг с экспертами. Чтобы разговор о технологиях был не просто лекцией, выбрали формат вечернего шоу: с неоном и стилистикой ночного мегаполиса нулевых.

Темы: от кибербезопасности и Data Science до бизнес-анализа и командной работы. Рассказываем, как прошло мероприятие.

Алексей Найденов, управляющий директор Управления алгоритмов машинного обучения, рассказал, как ИИ помогает кибербезопасности — и какие проблемы создает. Главное: ИИ не заменяет существующие решения, а становится дополнительным инструментом.

В банке ИИ помогает в трех направлениях. Первое — статический анализ кода: специализированное ПО сканирует код и выдает огромные отчеты с потенциальными уязвимостями, а LLM помогает экспертам быстрее отфильтровать реальные проблемы от ложных срабатываний. Второе — динамическое сканирование: ИИ формирует сценарии проверки эндпоинтов и API, а потом обрабатывает миллионы результатов по всей инфраструктуре. Третье — детекция аномалий, когда нужно в огромном потоке данных заметить нетипичное поведение пользователей.

Но с появлением LLM возникли новые угрозы: prompt injection (вредоносные команды, зашитые в модель), галлюцинации (когда модель «выдумывает» условия договора) и jailbreaking — обход ограничений через хитрые запросы. А с ростом агентских архитектур, где модели получают доступ к браузеру, файлам и почте, фокус контроля смещается еще сильнее. Решение пока прямолинейное: фильтр-«страж» на входе и выходе модели, проверяющий контент и защищающий персональные данные.

Анастасия Еремина, начальник Управления