ChatGPT — новый чатбот OpenAI — настолько хорош, что может легко обманывать людей

Соцсети взорвались на прошлой неделе после запуска ChatGPT — бота, генерирующего предложения, чрезвычайно точно имитирующие настоящую прозу, написанную людьми. ИИ-бота просили создавать рецепты коктейлей, писать тексты песен и сценарии.

ChatGPT также умеет убедительно отвечать на дополнительные вопросы, которые логически связаны с предыдущими, что в свою очередь начинает волновать пользователей — как можно в дальнейшем отличить тексты бота от творений реального человека? В этот понедельник Stack Overflow (сайт вопросов/ответов для программистов) временно запретил пользоваться текстами ChatGPT. Модераторы отметили, что ответов, сгенерированных ботом, немало, и они «существенно вредят» сайту.

Дело в том, что тексты, сгенерированные ботом, чрезвычайно точны и отличить их от человеческих практически невозможно. OpenAI, похоже, придется найти способ обозначать такое содержимое как «созданное программным обеспечением».

Арвинд Нараянан, профессор информатики Принстонского университета, «опросил» чат-бот по основным вопросам информационной безопасности в день его выпуска.

«Я не увидел никаких доказательств того, что ChatGPT способен убедить экспертов. Это, конечно, проблема, если его будут использовать люди, не очень разбирающиеся в теме. Бота сочтут авторитетным и надежным», — комментирует профессор.

People are excited about using ChatGPT for learning. It’s often very good. But the danger is that you can’t tell when it’s wrong unless you already know the answer. I tried some basic information security questions. In most cases the answers sounded plausible but were in fact BS. pic.twitter.com/hXDhg65utG

— Arvind Narayanan