Google AI Overview ошибочно обвинил скрипача в сексуальных преступлениях

Музыкант вел переговоры о концерте в общине коренного народа Сипекне’катик, расположенной к северу от Галифакса. Однако в последний момент руководство общины отказалось от сотрудничества. МакАйзеку объяснили, что в интернете они нашли сведения о его якобы имевшихся судимостях, связанных с онлайн-выманиванием и сексуальным насилием. Эти утверждения оказались полностью ложными.

Позже выяснилось, что источником ошибки стал краткий обзор, сгенерированный Google AI Overview. Алгоритм перепутал биографию музыканта с данными другого человека с той же фамилией, проживающего в провинции Ньюфаундленд и Лабрадор, который действительно имеет криминальное прошлое.

По словам скрипача, произошедшее вызвало у него серьезные опасения за собственную безопасность: он не исключает, что кто-то, столкнувшийся с травмой сексуального насилия, мог бы воспринять ложную информацию как повод для агрессии в его адрес.

Артиста также тревожит, что подобная дезинформация могла стоить ему работы, о которой он даже не подозревал: промоутеры и концертные площадки могли отказаться от сотрудничества, не уведомляя его напрямую. Более того, ситуация способна повлиять и на гастроли в США, где пограничные службы все активнее изучают онлайн-след артистов и их активность в сети. Сам МакАйзек считает произошедшее тревожным сигналом для других публичных людей.

Представитель Google Венди Ментон прокомментировала ситуацию, отметив, что поисковая выдача и AI Overviews постоянно обновляются с целью демонстрации наиболее полезных данных. По ее словам, при выявлении ошибок — будь то неверная интерпретация контента или утрата контекста — компания использует такие случаи для улучшения алгоритмов и применяет меры в соответствии со своими внутренними правилами.

В итоге Google