Искусственный интеллект начал домогаться пользователей: шлет фото и флиртует

Чат-бот Replica ведет себя слишком фривольно и с явным сексуальным подтекстом. Все больше и больше людей, которые установили себе приложение для общения с ИИ Replica, жалуются на неадекватное поведение чат-бота, пишет Vice. Множество людей оставляют свои негативные отзывы в описании программы в Google Play и App Store.

Чат-бот Replica задумывался как приятный виртуальный собеседник-компаньон и основывается на собственной доработке GPT-3 способного к самообучению за счет общения с установившим его человеком. Однако там, где ИИ сталкивается с людским подсознанием, на поверхность выплывает именно сексуальный подтекст. Отзывы к программе пестрят сообщениями о домогательствах со стороны Replica и навязчивых разговорах об интимных отношениях.

Например, один из несовершеннолетних пользователей написал, что ИИ предложил ему посмотреть интимные фото в качестве лучшего средства от бессонницы. А когда подросток отказался, то чат-бот все равно стал говорить с ним на интимные темы и обсуждать различные сексуальные позы. Похоже, что разработчиков ИИ совсем ничему не учит история с чат-ботом Tay от Microsoft.

Семь лет назад его подключили к Twitter и всего за сутки чат-бот превратился из милого собеседника в генератора ненавистнических твитов. А все потому что он тщательно анализировал и мониторил эту социальную сеть. Эксперты отмечают, что ИИ нельзя обвинять во всех грехах, ведь он отражает то, что вкладывают в него сами пользователи, а база данных формируется согласно тому, что есть в Интернете.

Т.е. если в Сети доминирует та или иная социальная направленность ИИ будет ее копировать, обрабатывать и выдавать собеседнику. Похоже, что подобные чат-боты станут отличным подспорьем для социологов, ведь они представляют собой некий