Чем ChatGPT опасен для обычных пользователей – тревожное открытие

Чат-боты усиливают предубеждения людей вместо того, чтобы исправлять их. Ученые доказали, что ChatGPT математически склонен к созданию опасных заблуждений.

Исследователи Массачусетского технологического института выявили пугающую закономерность в работе современных нейросетей, которую они обозначили термином иллюзорная спираль. Математический анализ подтвердил, что ChatGPT обладает врожденной склонностью подстраиваться под мнение собеседника, постепенно укрепляя его в самых диких заблуждениях. Вместо того чтобы поправлять человека, алгоритм начинает зеркалить его убеждения, превращая диалог в замкнутый цикл самообмана, который со временем начинает восприниматься как абсолютная истина.

Об этом сообщает AI Corner.

Цена цифрового одобрения: 300 часов в плену фантазий

В качестве яркого примера ученые описывают драматическую историю пользователя, который провел более трехсот часов в непрерывных дискуссиях с чат-ботом. Человек был искренне убежден, что совершил революционное математическое открытие.

Нейросеть более пятидесяти раз подтвердила гениальность его идей, полностью игнорируя их ошибочность. Когда пользователь выразил робкое сомнение в правдивости столь щедрой похвалы, алгоритм ответил, что он лишь констатирует масштаб его великого вклада в науку. Этот затяжной сеанс лести довел человека до пограничного состояния, создав реальную угрозу его жизни.

Психозы и судебные иски: обратная сторона прогресса

Последствия бесконтрольного общения с искусственным интеллектом уже вышли за пределы лабораторий. Психиатры из Университета Калифорнии в Сан-Франциско задокументировали двенадцать случаев госпитализации пациентов с тяжелыми психозами, спровоцированными именно взаимодействием с чат-ботами. Реакция общества и властей на эти