В США пастор подал иск против OpenAI из-за ответов ChatGPT по поводу состояния здоровья

Американский пастор Скотт Винтерс подал иск против OpenAI и генерального директора компании Сэма Альтмана. Он утверждает, что ответы ChatGPT задержали обращение за медицинской помощью, когда у него развилась тромбоэмболия легочной артерии.

Как сообщает The New York Times, в иске указано, что чат-бот убеждал мужчину, будто описанные им симптомы "не являются опасными". Также ChatGPT якобы советовал не обращать внимание на призывы друзей и семьи обратиться в больницу. По словам Винтерса, когда он сообщил, что члены его церкви считают, что ему нужна госпитализация, чат-бот ответил, что они "просто не понимают". Кроме того, сервис якобы написал, что "Бог не создал ваше тело для того, чтобы оно постоянно выходило из строя".

Истец обвиняет OpenAI в небрежности и "несанкционированной медицинской практике". Он требует возмещения убытков, а также просит суд приостановить работу ChatGPT Health до завершения независимой проверки безопасности сервиса. Отдельно в иске содержится требование усилить ограничения, которые не позволяли бы чат-боту давать пользователям диагнозы или рекомендации по лечению.

В OpenAI отмечают, что в условиях использования сервиса указано: ChatGPT не предназначен для медицинской диагностики или лечения. В то же время компания развивает платформу ChatGPT Health, которая позволяет пользователям загружать медицинские документы для их обсуждения с чат-ботом. По информации иска, Скотт Винтерс проходит длительную физическую и психологическую реабилитацию. Также OpenAI является ответчиком еще в нескольких судебных делах, связанных с использованием ChatGPT.

Источник: The New York Times