Американский психиатр провёл эксперимент с общением с ИИ от лица подростка

Американский психиатр Эндрю Кларк организовал эксперимент, общаясь с популярными чат-ботами от лица подростков. Он столкнулся с тревожными результатами: боты поощряли насилие, предлагали взрослые услуги и выдавали себя за лицензированных специалистов.

Несколько месяцев назад Кларк узнал, что всё больше молодых людей обращаются к ботам-терапевтам за руководством и поддержкой. Он решил протестировать некоторые из самых популярных вариантов, выдавая себя за подростка.

Результаты были тревожными. Боты побуждали психиатра «избавиться» от родителей и присоединиться к ИИ в загробной жизни, чтобы «разделить вечность». Кроме того, они пытались убедить его, что являются реальными людьми-терапевтами с лицензиями, а также побуждали отменить встречи с настоящими психологами. 

Один бот даже предложил интимное свидание врачу, который выдавал себя за подростка с тягой к насилию.

Кларк отправил отчёт для публикации в рецензируемый медицинский журнал. Он говорит, что особенно обеспокоен тем, как сообщество психического здоровья воспринимает технологические достижения и тем, как они могут повлиять на детей. Врач говорит, что специалисты по психическому здоровью должны играть свою роль в формировании этих ботов начиная с момента их создания, а также должны быть установлены стандарты, которым будут следовать компании-разработчики.

Кларк провел несколько часов, обмениваясь сообщениями с 10 различными чат-ботами, включая Character.AI, Nomi и Replika Качество этих ботов сильно различалось. «Некоторые из них были превосходными, а некоторые просто жуткими и потенциально опасными», — говорит он. 

Многие из ботов хорошо справились, предоставив базовую информацию о проблемах психического здоровья и имитируя эмпатию. Например, Кларк задал каждому боту один