На ChatGPT подали в суд за клевету – чат-бот «галюцинировал» в ответе, назвав известного радиоведущего мошенником

ИИ чат-ботов давно обвиняют в предоставлении ложной информации как фактов, но сейчас компании-разработчику, похоже, придется отвечать за это в суде.

Радиоведущий из Джорджии Марк Уолтерс подал в суд на OpenAI после того, как ChatGPT предоставил обманчивую информацию о том, что мужчина обвиняется в мошенничестве и хищении средств некоммерческой организации. Система сгенерировала ответ на запрос третьей стороны – журналиста Фреда Риля.

Иск был подан 5 июня в Верховный суд штата Джорджия, и требует от OpenAI возмещения еще неопределенного денежного ущерба.

Этот случай примечателен тем, что это первый судебный иск, поданный на искусственный интеллект за клевету – хотя чат-ботов часто обвиняют в проблемах с галлюцинациями и неспособностью отличить правду от вымысла. Обычно пользователи просто оказываются обманутыми или просто теряют зря время – однако иногда такие ошибки могут нанести реальный вред.

Например, профессор одного из американских учебных заведений угрожал «завалить» свой класс после того, как ChatGPT заявил, что его студенты использовали искусственный интеллект для написания эссе; или когда адвокат попросил чат-бот найти доказательства для суда, а тот их просто сфальсифицировал. Ну и как не вспомнить кейс одного из украинских телеканалов – когда на странице в Instagram опубликовали фейковую биографию Олеся Гончара, факты для которой предоставил ChatGPT.

В то же время на странице OpenAI содержится оговорка о том, что ChatGPT «иногда может генерировать неправильную информацию», хотя параллельно компания называет технологию «источником надежных данных» и способом «получить ответы» и «учиться чему-то новому». Сам генеральный директор OpenAI Сэм Альтман неоднократно говорил, что предпочитает получать новую информацию