OpenAI планирует обновить ChatGPT после того, как родители подали в суд из-за самоубийства подростка

Компания OpenAI вносит изменения в свой популярный чат-бот после судебного иска https://habr.com/ru/articles/941940/ , в котором утверждается, что подросток, покончивший с собой этой весной, использовал ChatGPT в качестве наставника.

Во вторник в сообщении в блоге компания, занимающаяся искусственным интеллектом, заявила, что обновит ChatGPT, чтобы он лучше распознавал различные проявления психологического дискомфорта и реагировал на них.

Например, он будет объяснять опасность недосыпа и предлагать пользователям отдохнуть, если они упомянут, что чувствуют себя уязвимыми после двух бессонных ночей.

Компания также заявила, что усилит меры безопасности при обсуждении суицида, которые, по её словам, могут быть нарушены после продолжительных разговоров.

Кроме того, OpenAI планирует внедрить систему контроля, которая позволит родителям определять, как их дети используют ChatGPT, и просматривать подробную информацию об этом.

Пост был опубликован в тот же день, когда родители Адама Рейна, 16-летнего старшеклассника из Калифорнии, подали в суд на компанию и её генерального директора Сэма Альтмана. В иске утверждается, что ChatGPT систематически изолировал Рейна от семьи и помогал ему планировать самоубийство. Рейн покончил с собой в апреле.

Этот иск дополняет ряд сообщений о том, что активные пользователи чат-ботов ведут себя опасно.

На этой неделе более 40 генеральных прокуроров штатов направили предупреждение дюжине ведущих компаний в сфере ИИ о том, что по закону они обязаны защищать детей от нежелательного сексуального взаимодействия с чат-ботами.

«Мы выражаем глубочайшие соболезнования семье Рейн в это трудное время и изучаем иск», — заявил представитель компании OpenAI, базирующейся в Сан-Франциско, в ответ на иск.

ChatGPT,