OpenAI: киберугрозы легче обнаружить, когда злоумышленники используют ChatGPT

Киберугрозы проще обнаружить, если злоумышленники применяют ChatGPT. К такому необычному выводу пришли исследователи OpenAI. По их словам, промпты для ChatGPT не только раскрывают, на какие платформы нацелены злоумышленники, но и позволяют раскрыть новые инструменты, которые используются для преступной деятельности в сети.

OpenAI опубликовала свой 50-страничный отчёт на фоне повышенного внимания к её инструментам перед президентскими выборами в США. Чиновники по всему миру опасаются, что злоумышленники будут применять искусственный интеллект для более широкого распространения дезинформации и пропаганды.

Отчёт описывает 20 эпизодов, когда OpenAI прервала манипуляции с использованием ИИ для разжигания ненависти или взлома уязвимых систем.

В компании пояснили, что подобные случаи позволяют OpenAI выявлять наиболее распространённые способы, с помощью которых злоумышленники применяют ИИ для повышения своей эффективности или производительности.

В одном из эпизодов связанная с Китаем хакерская группировка SweetSpecter попыталась провести фишинговую кампанию против государственных служащих и сотрудников OpenAI, используя подсказки для ChatGPT. В письме к работникам компании злоумышленники выдавали себя за пользователя чат-бота, устраняющего неполадки с платформой. В электронном письме было вложение, которое содержало вредоносное ПО для Windows, известное как SugarGh0st RAT.

Софт позволил бы SweetSpecter получить контроль над скомпрометированным компьютером, запускать команды, делать скриншоты экрана и извлекать данные. Однако спам-фильтр OpenAI отразил угрозу, поэтому ни один сотрудник компании не получил письма от злоумышленников.

В OpenAI полагают, что им удалось раскрыть первую известную атаку SweetSpecter на американскую компанию,