Google обновила механизмы безопасности в Gemini для реагирования на запросы о психическом здоровье

Компания Google обновила подходы к безопасности в чат-боте Gemini, в частности во взаимодействии с пользователями, которые могут переживать психический кризис. Изменения охватывают как интерфейс, так и алгоритмы реагирования.

В сервисе появился обновленный модуль экстренной помощи. Он предлагает быстрый доступ к реальным службам поддержки — через звонок, текстовые сообщения или чат с консультантом, а также возможность перейти на сайт 988. После активации этот инструмент остается доступным на протяжении всего диалога.

Также Google изменила логику ответов Gemini в потенциально критических ситуациях. Теперь чат-бот ориентируется на перенаправление пользователя к специалистам и избегает реакций, которые могут поддерживать опасные убеждения. В компании отмечают, что система обучена отделять субъективные переживания от объективных фактов.

Кроме того, компания сообщила о намерении инвестировать 30 млн долларов в течение трех лет в поддержку международных горячих линий, которые оказывают помощь людям в кризисных ситуациях.

Источник: Google