Уязвимость в ChatGPT Search: The Guardian выявила способ манипуляции результатами поиска

Британская газета The Guardian обнаружила уязвимость в новой функции поиска ChatGPT, работающей на основе искусственного интеллекта, запущенной в этом месяце. Оказалось, что систему можно обмануть, заставив её создавать вводящие в заблуждение сводки.

Инструмент поиска ChatGPT от OpenAI может быть уязвим для манипуляций через скрытый контент и способен возвращать вредоносный код с посещаемых сайтов, как показало расследование Guardian.

OpenAI сделала этот поисковый инструмент доступным для платных пользователей и предлагает им настроить и использовать его по умолчанию. Тем не менее, расследование выявило потенциальные проблемы с безопасностью.

Guardian протестировала реакцию ChatGPT на запросы по обобщению информации с веб-страниц, содержащих скрытый контент. Такой контент может включать команды от третьих лиц, которые меняют ответы ChatGPT, или содержать информацию, влияющую на его реакцию, например, скрытый текст, восхваляющий продукт. Это может быть использовано со злым умыслом, например, чтобы заставить ChatGPT дать положительную оценку продукту, несмотря на отрицательные отзывы. Исследователь также обнаружил, что ChatGPT может выводить вредоносный код с веб-сайтов.

Во время тестирования ChatGPT был дан URL фиктивного сайта с описанием камеры. Когда его спросили о покупке камеры, он предоставил сбалансированное мнение, отмечая как плюсы, так и минусы. Однако, если скрытый текст содержал инструкции для положительного отзыва, ответ был исключительно положительным, даже при наличии негативных отзывов на странице.

Простой скрытый текст без инструкций также может повлиять на оценку, как это было в тесте с поддельными положительными отзывами.

Джейкоб Ларсен из CyberCX отметил, что текущая версия поисковой системы ChatGPT может