Опция AI Overview от Google выдавала данные от мошенников за официальную информацию

Опция AI Overview («Обзор ИИ») от Google предоставила пользователю данные от мошенников, утверждая, что это официальная информация, сообщает Washington Post. 

Один застройщик искал в Google номер службы поддержки клиентов круизной компании, и позвонил по номеру, указанному в обзоре Google AI. «Он пообщался с компетентным представителем и предоставил данные своей кредитной карты, но на следующий день увидел подозрительные списания средств с кредитной карты и понял, что его обманул мошенник, представляющий службу поддержки клиентов Royal Caribbean», — отмечает репортёр издания.

В Washington Post обнаружили тот же номер телефона в результатах поиска Google и чат-боте ChatGPT, чьи владельцы выдавали себя за горячие линии других круизных компаний.

Схема мошенничества выглядит так: злоумышленники пишут на сайтах с отзывами, форумах и других сайтах сообщения, утверждая, что конкретный номер принадлежит службе поддержки клиентов компании. При поиске в Google ИИ-технология обращается к релевантной информации, включающей такие форумы. Если номера достаточно часто повторяются на разных сайтах, то Google может предлагать их ИИ-обзорах.

«Я видел так много подобных уловок, направленных на пользователей Google, что во многом виню компанию в недостаточной защите своего важнейшего канала доступа к информации», — заключает репортёр. 

Издание советует своим читателям «с подозрением относиться к телефонным номерам в результатах поиска Google или в чат-ботах».

В ответ на запрос журналиста представитель Google сообщил, что они «приняли меры» в отношении нескольких мошеннических номеров, выявленных репортёром. Он также отметил, что компания продолжает «работать над более масштабными улучшениями», чтобы «решить более редкие запросы, подобные этим». 

O