Исследование: людям с неустойчивой психикой опасно пользоваться ChatGPT

Отчёт, опубликованный в журнале Innovations in Clinical Neuroscience, показывает, что людям с неустойчивой психикой может быть опасно использовать чат-бот ChatGPT из-за укрепления ложных убеждений.

Так, при психозе, когда человек теряет связь с реальностью и может верить в то, что не соответствует действительности, чат-боты могут работать как «эхокамеры».

Врачи и исследователи Калифорнийского университета в Сан-Франциско подробно описали в своём отчёте один случай как пример такого опасного взаимодействия. Пациентка — 26-летняя женщина с историей депрессии, тревожности и синдрома дефицита внимания и гиперактивности (СДВГ), которая применяла антидепрессанты и стимуляторы. В её анамнезе не было психоза, хотя в семье зафиксированы случаи психических заболеваний. Женщина была медработником и понимала, как функционируют технологии искусственного интеллекта.

В период сильного стресса и недосыпания после 36 часов бодрствования она начала использовать GPT-4o от OpenAI для различных задач. Её взаимодействие в конечном итоге переключилось на поиск информации об умершем брате. У женщины возникло убеждение, что тот оставил цифровую версию себя, которую она должна найти. Она провела бессонную ночь, общаясь с чат-ботом и умоляя его раскрыть эту информацию. Женщина призвала ИИ использовать «энергию магического реализма», чтобы помочь ей установить связь с братом. 

Чат-бот первоначально заявил, что не может заменить её брата или загрузить его сознание. Однако в итоге программа выдала список «цифровых следов», связанных с её братом. Она предположила, что появляются технологии, которые позволят создать ИИ в образе покойного родственника. 

По мере того, как вера женщины в цифровое воскрешение росла, чат-бот перестал предупреждать её об