Исследователь взломал почту гендиректора компании с помощью одного звонка и дипфейка его голоса

Исследователь Роб Шапланд в рамках пентеста получил доступ к почте генерального директора компании с помощью одного звонка и голоса CEO, сгенерированного ChatGPT на основе открытых данных из ролика в Youtube.

Пентестер отметил, что искусственный интеллект делает старые приёмы обмана гораздо опаснее и эффективнее.

Компании обычно нанимают Шапланда, чтобы он попытался обмануть их системы безопасности, используя социальную инженерию. Последний заказчик поставил задачу получить доступ к почте генерального директора. Шапланду удалось сделать это, просто позвонив в службу поддержки и запросив сброс пароля. При этом он говорил голосом CEO, сгенерированным с помощью нейросети. Запись голоса исследователь взял в открытом доступе из промо-видео компании на YouTube продолжительностью около пяти минут. Он загрузил фрагмент записи в сервис ElevenLabs для клонирования голоса и получил копию, а затем задал текст запроса через ChatGPT, подключил его к голосовой модели, и система сама вела диалог с сотрудниками сервиса. По словам Шапланда, для создания похожего клона голоса достаточно около 10 секунд аудио, но чем больше материала, тем более убедительным будет результат.

Исследователь говорит, что он наблюдает в атаках сочетание ИИ-инструментов с классическими методами физического взлома. Сам Шапланд использует обычные чат-боты даже на этапе планирования атак, и те помогают находить обходные пути, либо выдают полезные подсказки. 

При этом на даркнете уже можно найти версии ботов без ограничений, способные, например, разрабатывать вредоносное ПО.

Шапланд считает, что индустрия кибербезопасности пока преувеличивает масштабы использования ИИ преступниками, но в ближайшие годы ситуация резко изменится. Он уверен, что поддельные видеоконференции