OpenAI добавит в ChatGPT функцию оповещения близких при риске самоповреждения

В OpenAI признают, что многие пользователи воспринимают ChatGPT как источник эмоциональной поддержки. Нейросеть отвечает мгновенно, не осуждает и доступна в любое время суток, поэтому люди все чаще обсуждают с ИИ свои страхи, стресс и тяжелые мысли.

Новая функция Trusted Contact должна стать дополнительным уровнем защиты в случаях, когда система замечает признаки возможного самоповреждения или суицидальных намерений.

Подключение функции останется полностью добровольным. Пользователь сможет заранее указать доверенное лицо старше 18 лет. После этого выбранный человек получит приглашение с описанием своей роли и сможет принять или отклонить запрос в течение недели.

После активации система будет работать автоматически, однако окончательное решение не станет принимать исключительно алгоритм.

Механизм включает сразу несколько этапов проверки:

В OpenAI отдельно подчеркивают, что функция не предоставляет доступ к чатам пользователя. Доверенное лицо не увидит переписку и не узнает деталей разговора с ИИ.

Сообщение будет содержать лишь предупреждение о возможной кризисной ситуации и просьбу связаться с человеком.

Разработкой Trusted Contact компания занималась совместно с исследователями и профильными организациями, включая American Psychological Association.

Ранее похожий инструмент уже использовался для подростковых аккаунтов, однако теперь OpenAI решила расширить систему и на взрослых пользователей.

В компании подчеркивают, что Trusted Contact не заменяет профессиональную психологическую помощь или экстренные службы, а лишь создает дополнительный механизм поддержки в критических ситуациях.

openai