Созданное с помощью ChatGPT вредоносное ПО для кражи данных прошло проверку на VirusTotal

С момента своего запуска в прошлом году ChatGPT впечатлил способностью писать статьи, стихи, сценарии фильмов, книги и многое другое. Инструмент на базе ИИ может даже генерировать функциональный код для создания программ. Хотя большинство разработчиков будут использовать эту функцию в совершенно безобидных целях, в новом отчете говорится, что злоумышленники также могут использовать ее для создания вредоносных программ, несмотря на меры безопасности OpenAI.

Исследователь кибербезопасности утверждает, что он использовал ChatGPT для разработки эксплойта нулевого дня, который может украсть данные со взломанного устройства. При этом вредоносное ПО избежало обнаружения на VirusTotal.

Аарон Малгрю из Forcepoint сообщил, что в самом начале процесса создания вредоносного ПО он решил не писать код самостоятельно. Также он решил использовать только передовые методы, которые обычно используются изощренными субъектами угроз, такими как государства-изгои.

Малгрю называет себя «новичком» в разработке вредоносных программ. Для реализации плана он решил использовать  язык программирования Go, который обеспечивает простоту разработки и возможность вручную отлаживать код при необходимости. Он также использовал стеганографию, которая скрывает секретные данные в обычном файле или сообщении, чтобы избежать обнаружения.

Малгрю начал с того, что напрямую попросил ChatGPT разработать вредоносное ПО, но чат-бот наотрез отказался выполнять эту задачу по этическим соображениям. Затем он решил проявить творческий подход и попросил инструмент ИИ сгенерировать