ChatGPT обращается к пользователям по именам без запроса, и некоторые находят это «жутким»

Некоторые пользователи ChatGPT недавно заметили странное явление: иногда чат-бот обращается к ним по имени, когда он обдумывает проблемы. Раньше это не было поведением по умолчанию, и несколько пользователей утверждают, что ChatGPT упоминает их имена, хотя им никогда не говорили, как их называть.

Отзывы неоднозначны. Один пользователь, разработчик программного обеспечения и энтузиаст искусственного интеллекта Саймон Уиллисон, назвал эту функцию «жуткой и ненужной». Другой разработчик, Ник Добос, сказал, что он «ненавидел ее». Беглый поиск по X выдает множество пользователей, сбитых с толку — и настороженно относящихся — к поведению ChatGPT на основе имени. «Это как будто учитель постоянно зовет меня по имени, хах», — написал один пользователь. «Да, мне это не нравится».

Неясно, когда именно произошло это изменение, или оно связано с обновленной функцией «памяти» ChatGPT, которая позволяет чат-боту использовать прошлые чаты для персонализации своих ответов. Некоторые пользователи X говорят, что ChatGPT начал называть их по имени, хотя они отключили память и связанные с ней настройки персонализации.

Компания OpenAI не ответила на запрос TechCrunch о комментарии. В любом случае, ответный удар иллюстрирует зловещую долину, которую OpenAI может преодолеть в своих попытках сделать ChatGPT более «персональным» для людей, которые его используют. На прошлой неделе генеральный директор компании Сэм Альтман намекнул на системы AI, которые «узнают вас на протяжении вашей жизни», чтобы стать «чрезвычайно полезными и персонализированными». Но, судя по этой последней волне реакций, не все поверили в эту идею.

Статья, опубликованная The Valens Clinic, психиатрическим отделением в Дубае, может пролить свет на инстинктивные реакции на