В РАН назвали топ уязвимостей внедрения ИИ в финансовой сфере

В РАН заявили, что 70% финансовых организаций сегодня используют искусственный интеллект. Чаще всего его применяют в платежах, кредитном анализе, страховании и управлении активами. Во всех этих сферах ИИ повышает эффективность за счёт снижения издержек, обеспечения соблюдения требований регуляторов, выявления мошенничества и улучшения клиентского сервиса.

По оценке Глобального института McKinsey, только в мировом банковском секторе внедрение ИИ может ежегодно приносить 3–5% совокупной выручки отрасли. Такие данные приводит доктор экономических наук Института экономики РАН Дмитрий Кочергин в статье об основных направлениях использования искусственного интеллекта в финансовой сфере.

Однако массовое внедрение нейросетей сопровождается серьёзными рисками. Усиливается угроза кибератак. Генеративные модели расширяют возможности злоумышленников по созданию фишинговых писем, вредоносного программного обеспечения и захвату пользовательских устройств. Это может привести к краже данных, вымогательству и мошенничеству.

Другой источник угроз — атаки с отравлением данных. Злоумышленники могут вмешиваться в массивы, на которых обучаются языковые модели финансовых организаций, чтобы изменить их поведение и нарушить работу систем. Поскольку всё больше приложений используют данные, созданные самими моделями, операционные риски для финансового сектора возрастают.

Отдельная проблема — предвзятость алгоритмов. Модели могут воспроизводить и усиливать искажения в данных, что ведёт к дискриминации при страховании и кредитовании, ограничению доступа уязвимых групп к финансовым услугам. В условиях жёстких стандартов защиты данных применение ИИ повышает юридические риски, особенно из‑за склонности к «галлюцинациям» нейросетей.

Существенные угрозы