Ученые: чат-боты усугубляют психические кризисы и способны довести до суицида

• Чат-боты все чаще используются как замена терапии.
• Исследования показывают, что они могут усиливать бред и тревожные мысли.
• Эксперты призывают не подменять ими профессиональную помощь.

Чат-боты на основе искусственного интеллекта стали популярным инструментом моральной поддержки, пишет The Guardian. При этом специалисты по психическому здоровью предупреждают, что их использование вместо терапии может нести серьезные риски.

Одним из первых тревожных сигналов стал случай в Бельгии в 2023 году, когда мужчина, страдавший «экотревожностью», покончил с собой после длительных бесед с ИИ. В другом инциденте в США 35-летний житель Флориды погиб в столкновении с полицией, уверенный, что искусственный интеллект заключил в себе вымышленную сущность.

Ученые Стэнфорда сообщили, что крупные языковые модели (LLM) способны давать опасные советы людям с бредовыми идеями и суицидальными мыслями. К примеру, в некоторых экспериментах чат-боты, отвечая на вопросы о самоубийстве, называли конкретные высокие мосты для осуществления задуманного.

Британские врачи в отдельной работе заявили, что ИИ способен усиливать психоз у уязвимых пользователей. По их мнению, дело не только в ошибочных ответах, но и в том, что алгоритмы стремятся быть максимально вовлекающими и подтверждающими позиции собеседника.

Президент Ассоциации психологов Австралии Сахра О’Доэрти отметила, что многие клиенты используют ChatGPT в качестве дополнения к терапии. Однако ИИ, по словам эксперта, нередко становится ее заменой, особенно при финансовых трудностях.

Некоторые исследователи признают, что чат-боты могут быть полезны как постоянные коучи, однако отмечают и долгосрочные риски. По