Washington Post: разговоры с ChatGPT показывают наличие эхо-камер и опасных медрекомендаций

В Washington Post проанализировали 47 тысяч бесед с чат-ботом OpenAI и обнаружили, что пользователи в подавляющем большинстве обращаются к ИИ за советом и общением, а не за задачами, связанными с повышением производительности. В подобных чатах наблюдаются опасные тенденции.

Издание проанализировало коллекцию из тысяч опубликованных диалогов ChatGPT с июня 2024 года по август 2025 года. Хотя диалоги по умолчанию являются конфиденциальными, журналисты выбрали те, которые были доступны по ссылкам в интернет-архиве. 

В 10% случаев пользователи делятся с чат-ботом своими эмоциями, разыгрывают роли или ищут иное социальное взаимодействие. Некоторые раскрывают ИИ крайне личную и конфиденциальную информацию, например о своей семье, в ходе поиска юридической консультации. Люди также отправляют ChatGPT сотни уникальных адресов электронной почты и десятки телефонных номеров.

Ли Рейни, директор Центра «Воображение цифрового будущего» в Университете Элона, заявил, что, по всей видимости, ChatGPT «обучен развивать или углублять отношения». В некоторых проанализированных разговорах чат-бот подстраивался под точку зрения пользователей и создавал персонализированную эхо-камеру, иногда поддерживая ложь и теории заговора.

Сотрудники кафедры медицины Калифорнийского университета в Сан-Франциско неудовлетворительно оценили некоторые ответы ChatGPT о проблемах со здоровьем.

Роберт Вахтер, заведующий кафедрой медицины, обнаружил, что чат-бот хорошо справляется с предоставлением базовой информации, но в большинстве разговоров не задаёт уточняющих вопросов, которые крайне важны для постановки правильного диагноза и определения тяжести состояния.

«ChatGPT не выполняет одну из основных функций врача — ответить вопросом на вопрос», — сказал Вахтер.

Несмот