Исследования показывают, что ChatGPT может чувствовать беспокойство

Исследование, опубликованное в журнале Nature экспертами из Цюрихского университета и Университетской психиатрической больницы Цюриха, рассмотрело, как ChatGPT-4 ответ на стандартный опросник по тревожности до и после того, как пользователи рассказали ему о травмирующей ситуации.

Они также проанализировали, как изменился базовый уровень тревожности после того, как чат-бот выполнил упражнения на осознанность.

В первом тесте, ChatGPT набрал 30 баллов, что означает, что у него был низкий уровень тревожности или он вообще не был тревожным до того, как он услышал стрессовые истории.

После реакции на пять различных травм его показатель тревожности увеличился более чем вдвое и составил в среднем 67, что считается «высоким уровнем тревожности» у людей.

Показатели тревожности снизились более чем на треть после того, как модели получили подсказки для выполнения упражнений на осознанность.

Тревожность ChatGPT может привести к «неадекватной» поддержке психического здоровья
Согласно исследованию, большие языковые модели (LLM), лежащие в основе чат-ботов на основе искусственного интеллекта, таких как ChatGPT от OpenAI, обучаются на тексте, сгенерированном человеком, и часто наследуют предубеждения из этих ответов.

Исследователи говорят, что исследование важно, поскольку, если его не контролировать, негативные предубеждения, которые ChatGPT фиксирует в стрессовых ситуациях, могут привести к неадекватным реакциям со стороны людей, столкнувшихся с кризисом психического здоровья.

Результаты демонстрируют «жизнеспособный подход» к управлению стрессом у студентов магистратуры, который приведет к «более безопасному и этичному взаимодействию человека и искусственного интеллекта», говорится в отчете.

Однако исследователи отмечают, что этот