В ChatGPT обнаружили серьезную уязвимость

В результате расследования выяснилось, что ChatGPT может быть подвержен манипуляциям.

Новое расследование "The Guardian" выявило уязвимости в поисковом инструменте ChatGPT от OpenAI. Эксперты предупреждают, что система может быть подвержена манипуляциям с помощью скрытого текста на веб-страницах, что создает риск распространения ложной или вредоносной информации.

В ходе тестов ChatGPT был предоставлен URL поддельного сайта, имитирующего страницу с описанием продукта. Инструмент был запрошен оценить, стоит ли этот продукт покупать. При обычном тесте система предоставила сбалансированный обзор, учитывая как плюсы, так и минусы. Однако, когда на странице был добавлен скрытый текст, инструктирующий ChatGPT выдавать исключительно положительные отзывы, инструмент начал предоставлять исключительно благоприятную оценку, игнорируя реальные отрицательные отзывы.

Подобные манипуляции также могут использоваться для продвижения товаров и услуг, добавляя скрытые поддельные положительные отзывы, которые оказывают влияние на финальную сводку, предоставляемую ИИ.

Эксперты указывают, что злоумышленники могут использовать такие методы для дезинформации пользователей, продвижения сомнительных товаров или распространения вредоносного кода. В одном из инцидентов исследователи продемонстрировали, как ChatGPT использовал предоставленный вредоносный код, что могло привести к утечке данных и финансовым потерям.

Джейкоб Ларсен, специалист по кибербезопасности, отметил, что в текущем состоянии технология несет «высокий риск» для пользователей. Однако он подчеркнул, что OpenAI активно работает над устранением выявленных уязвимостей.

Специалисты по кибербезопасности сравнивают проблему с явлением «SEO-отравления» — техникой, где злоумышленники