Что нельзя спрашивать в чате GPT: 14 запрещенных запросов

ChatGPT за несколько лет превратился в универсальный цифровой инструмент: от быстрого поиска информации до помощи с текстами и планированием. При этом все больше пользователей начинают воспринимать его как истину. Это ошибочное представление, ведь чат-боты склонны к ошибкам, выдумкам и не имеют реального понимания контекста.

Их польза возможна только при условии осознания ограничений. Издание SlashGear перечень из 14 типов запросов, которые не стоит доверять ChatGPT и любому другому ИИ.

Любая личная информация

Разговоры с ChatGPT не являются частными. Согласно политике конфиденциальности, OpenAI собирает запросы и загруженные файлы. Технологические компании регулярно становятся жертвами утечек данных, и OpenAI – не исключение: в прошлом уже случались сбои, которые приводили к раскрытию чужих чатов.

Отдельную угрозу подтверждает исследование Корнелльского университета. В нем ученые показали, что некоторые языковые модели можно заставить воспроизводить почти дословные фрагменты тренировочных данных. В рамках эксперимента исследователям удалось получить практически полный текст одного из романов о Гарри Поттере, несмотря на авторское право. Это означает, что информация, введенная пользователем, теоретически может быть впоследствии воспроизведена.

Все, что незаконно

Вопрос о незаконных действиях – плохая идея по двум причинам. Во-первых, чаты не являются конфиденциальными и могут быть использованы в суде. Подобные случаи уже случались с историями браузеров и поисковых запросов.

Во-вторых, даже если обойти ограничения, ChatGPT часто придумывает убедительные, но неправильные ответы. В контексте незаконных действий это может быть не просто ошибкой, а реальной угрозой здоровью или свободе. Кроме всего, такие запросы могут привести к