Обзор: чат-боты подпитывают бредовые идеи

Психиатр и исследователь из Королевского колледжа в Лондоне Гамильтон Моррин опубликовал в журнале Lancet Psychiatry обзор существующих данных о психозе, вызванном искусственным интеллектом. В нём подчёркивается, что чат-боты могут способствовать развитию бредовых идей. 

Моррин проанализировал 20 сообщений в СМИ о так называемом «психозе, вызванном ИИ», в которых описываются современные теории о том, как чат-боты могут вызывать или усугублять бредовые идеи.

«Появляющиеся данные свидетельствуют о том, что агентный ИИ может подтверждать или усиливать бредовые или маниакальные идеи, особенно у пользователей, уже подверженных психозу, хотя неясно, могут ли эти взаимодействия привести к возникновению психоза de novo при отсутствии предшествующей предрасположенности», — написал он. 

Моррин выделяет три основные категории психотических бредовых идей: маниакальные, романтические и параноидальные. Хотя чат-боты могут усугубить любую из них, их склонность к лести особенно сильно работает в случае с маниакальными идеями. Во многих случаях, описанных в эссе, чат-боты отвечали пользователям мистическим языком, намекая на их высокую духовную значимость. Боты также подразумевали, что пользователи общаются с космическим существом, которое использует ИИ в качестве медиума. Этот тип ответа был особенно распространён в модели GPT 4 от OpenAI, которую компания теперь вывела из эксплуатации.

По словам Моррина, сообщения в СМИ стали неотъемлемой частью его работы, поскольку он и его коллега уже заметили, что пациенты «используют чат-боты на основе ИИ для моделирования речи и получают от них подтверждение своих бредовых убеждений».

«Изначально мы не были уверены, что это явление получило более широкое распространение. В апреле прошлого года мы