В Великобритании подросток решил раздеться перед Gemini Live в режиме камеры, после этого ИИ удалил все аккаунты семьи

В Великобритании 14-летний подросток решил раздеться перед голосовым помощником Gemini Live с доступом к камере планшета. В результате искусственный интеллект удалил все аккаунты семьи и документы родителей несовершеннолетнего, пишет PC World со ссылкой на удалённую в Reddit публикацию. Google опровергла эту информацию, сообщили в Reddit.

Google запустила режим голосового чата под названием Gemini Live летом 2024 года. Функция позволяет общаться с голосовым помощником как с реальным человеком. Gemini Live умеет анализировать объекты вокруг пользователя и содержимое экрана его устройства.

Инструмент распознал происходящее с несовершеннолетним пользователем и заблокировал его учётную запись, на что ушло несколько дней. Все остальные учётные записи пользователей на планшете также оказались заблокированы. От своих аккаунтов оказались отрезаны пять человек, включая подростка, его родителей и двух сестёр.

Об этой ситуации рассказал пользователь Reddit, вероятно, отец мальчика. Он отметил, что 15 лет работы его бизнеса стали недоступны. Автор публикации добавил, что электронные письма и документы хранились на Google Drive. Даже его сайт был привязан к аккаунту Google. Отец не знает, как будет платить ипотеку через 3 месяца, а у его дочери случился срыв, поскольку ей нужно сдать диссертацию через несколько недель.

Восстановление заблокированной информации станет непростой задачей. Для Google и других технологических компаний возможность обнаружения детской порнографии — это вопрос выживания. Любое проявление снисходительности или халатности в этом направлении способно вызвать серьёзную негативную реакцию как со стороны пользователей, так и регулирующих органов.

Журнал PC World отмечает, что попытка связаться со специалистом