100 часов в плену у ChatGPT – жуткая история британца об ИИ

В отличие от врачей, ИИ не обладает эмпатией и профессиональной этикой, выдавая пугающие прогнозы без учета состояния пациента.

Нейросети прочно вошли в наш обиход: они пишут за нас код, заменяют психологов и даже становятся партнерами в виртуальных романах. Однако тесная интеграция с искусственным интеллектом имеет темную сторону. Как выяснилось, попытка обсудить с ИИ свои недомогания может превратить обычного человека в ипохондрика, провоцируя тяжелые приступы тревоги и хронический стресс.

История Джорджа Меллона

Журнал The Atlantic опубликовал поучительную историю 46-летнего жителя Ливерпуля Джорджа Меллона. Получив предварительные результаты анализа крови, указывающие на возможную онкологию, британец не дождался приема врача и обратился за расшифровкой к ChatGPT.

Вместо того чтобы успокоить пользователя, нейросеть лишь подтвердила и детализировала его худшие опасения. Джордж описывает этот опыт как погружение в кошмар: «Я словно оказался на сумасшедшем колесе обозрения, до предела наполненном страхом и неконтролируемыми эмоциями».

Дальнейшее обследование показало, что рака у мужчины нет. Однако эмоциональный след оказался настолько глубоким, что Джордж уже не мог прекратить диалог с чат-ботом. Обсуждение физических симптомов плавно перетекло в разбор ментальных проблем. Меллон делился с ИИ любым своим переживанием, в ответ получая бесконечные списки новых потенциальных угроз и поводов для опасений. В общей сложности он провел в переписке с ботом более 100 часов, мучаясь от навязчивой идеи, что его хотят уволить.

В чем коварство ИИ: отличия от классического поиска

Если обычный поиск в Google выдает сухой список ссылок и статей, оставляя пользователя наедине с анализом данных, то чат-бот действует куда более