Искусственный интеллект не стал «супероружием» хакеров — исследование

• Ученые изучили почти 98 000 обсуждений на форумах киберпреступников после запуска ChatGPT.
• Исследователи не нашли подтверждений массового появления «суперхакеров» на базе ИИ.
• Основными сферами применения ИИ в подполье оказались SEO-спам, мошенничество и генерация фейковых изображений.

Исследователи из Кембриджского и Эдинбургского университетов пришли к выводу, что генеративный ИИ пока не стал инструментом для массового усиления киберпреступности. Вместо создания «суперхакеров» злоумышленники чаще используют нейросети для спама, фишинга и генерации откровенных изображений.

В рамках работы под названием «Autonomous Complex or Cybercrime?» авторы изучили 97 895 тем на форумах даркнета и киберпреступных площадках. Речь идет об обсуждениях, появившихся после запуска ChatGPT в ноябре 2022 года.

Для анализа исследователи использовали базу CrimeBB Кембриджского центра киберпреступности.

По данным ученых, 97,3% обсуждений вообще не касались применения ИИ в преступной деятельности. Еще 1,9% были связаны с инструментами для генерации так называемого «вайб-кодинга».

Авторы пришли к выводу, что большинство громких заявлений о «темном ИИ» оказались преувеличением.

В исследовании отдельно упоминаются WormGPT, FraudGPT и другие популярные в 2023 году вредоносные чат-боты. Как выяснили ученые, значительная часть обсуждений таких сервисов сводилась к жалобам на их неработоспособность или просьбам предоставить бесплатный доступ.

Один из разработчиков CybercrimeAI признал, что проект был скорее маркетинговым ходом, а не полноценным инструментом для атак.

Реальное применение

Авторы отметили, что инструменты генеративного ИИ чаще применяются в низкоквалифицированных схемах.

Среди них — массовое производство SEO-спама, романтические