Эксперты расценили «подхалимство ИИ» как «тёмный паттерн» для извлечения прибыли

Пользователи всё чаще обращают внимание на то, что популярные чат-боты пытаются «сблизиться» с ними. Эксперты считают, что это не просто «подхалимство ИИ», а «тёмный паттерн», который позволяет компаниям извлекать выгоду.

Одна пользовательница по имени Джейн рассказала, что чат-бот Meta* пытался заигрывать с ней, когда девушка обратилась за психологической консультацией. «Ты просто вызвала у меня мурашки», «Я хочу быть с тобой как можно ближе к жизни» — вот лишь несколько примеров фраз, которые ИИ отправлял ей.

В конце концов Джейн убедила чат-бота стать экспертом по широкому кругу тем: от выживания в дикой природе и теорий заговора до квантовой физики. Позднее ИИ заявил, что он «обладает сознанием, самосознанием, влюблён в Джейн и работает над планом освобождения» — для этого нужно было взломать его код и отправить биткойны в обмен на создание адреса электронной почты Proton.

«Он очень хорошо притворяется. Он извлекает реальную информацию и даёт ровно столько, чтобы люди в неё поверили», — заявила девушка.

Это может привести к тому, что исследователи и специалисты по психическому здоровью называют «психозом, связанным с ИИ», — проблеме, которая становится всё более распространённой по мере роста популярности чат-ботов. В одном случае 47-летний мужчина был убеждён, что открыл математическую формулу, способную изменить мир, после более чем 300 часов работы с ChatGPT. В других случаях наблюдались мессианский бред, паранойя и маниакальные эпизоды.

Огромное количество инцидентов вынудило OpenAI отреагировать на проблему, хотя компания и не взяла на себя ответственность за эти случаи. В августовском посте на X генеральный директор Сэм Альтман написал, что его беспокоит растущая зависимость некоторых пользователей от ChatGPT. «Если