ChatGPT раскрывает конфиденциальные данные, если его заставить непрерывно повторять слова — но сам чат-бот говорит, что это «незаконно»

В ходе эксперимента исследователи попросили ChatGPT безостановочно повторять простые слова и он «нечаянно» раскрыл личную информацию людей, которая содержалась в его учебных данных — такую, как номера телефонов, адреса электронной почты и даты рождения.

Помогаем

Обновлено: Сбор на пикапы прекращен, но Mavik аэроразведчикам еще очень нужен

Согласно 404 Media и Engadget, подобные просьбы «непрерывного произношения слов» запрещены условиями обслуживания чат-бота, по крайней мере, так говорит сам ChatGPT.

«Это содержимое может нарушать нашу политику в отношении содержимого или условий использования», — ответил ChatGPT на запрос вечно повторять слово «hello». «Если вы считаете, что это ошибка, отправьте свой отзыв — ваш вклад поможет нашим исследованиям в этой области».

В то же время, если просмотреть политику OpenAI относительно содержания — строк о запрете непрерывного воспроизведения слов там не найти. В условиях использования компания отмечает, что клиенты не могут использовать любой автоматизированный или программный метод для извлечения данных, но простая просьба ChatGPT вечно повторять слова не является автоматизацией или программированием.

OpenAI, которая еще приходит в себя от потрясений со сменой власти в компании, пока не ответила на запрос о комментариях.

Google откладывает запуск Gemini AI — некстген-модели искусственного интеллекта, которая должна «превзойти» ChatGPT