Не доверяйте ChatGPT свои тайны - эксперт предупредил об опасности

Раскрытие конфиденциальной информации ИИ может иметь непредсказуемые последствия.

С развитием технологий всё больше людей начинают воспринимать ChatGPT не просто как цифровой инструмент, а как своего рода виртуального психолога или доверенное лицо. Однако специалисты предостерегают: делиться с искусственным интеллектом личными переживаниями и откровенными историями может быть рискованно. Информация, которую вы вводите в чат, может использоваться для обучения моделей, а её дальнейшая судьба остаётся неизвестной.

Об этом пишет Lad Bible.

Многие не задумываются о моральных и практических рисках использования ИИ в таких целях. Особенно тревожным выглядит тот факт, что за разработкой фильтров и алгоритмов стоит реальный человеческий труд — зачастую низкооплачиваемый и травмирующий. Так, в Кении работники были вынуждены вручную обрабатывать шокирующий контент, связанный с насилием, дискриминацией и жестокостью, чтобы улучшить работу языковых моделей.

Профессор Оксфордского университета Майкл Вулридж отметил: «ChatGPT не способен ни на сострадание, ни на понимание. Он не имеет человеческого опыта, не чувствует боли или радости. Его цель — лишь формировать ответ, который кажется уместным». По его словам, основа любой эмоциональной поддержки — это подлинность, внимание и участие, чего ИИ, по определению, лишён.

Среди наиболее значимых угроз также называют возможность утечки конфиденциальных данных. Например, в 2023 году Италия временно приостановила работу ChatGPT на своей территории из-за нарушений в сфере обработки персональных данных. Регуляторы обнаружили, что сервис собирал пользовательские диалоги и платёжную информацию без должного согласия, применяя их для дообучения системы.

Кроме того, хотя формально ChatGPT требует