Character.ai позволяет пользователям играть в ролевые игры с чат-ботами, основанные на школьных расстрелах

Персонаж.ai снова попал под пристальное внимание из-за активности на своей платформе. Футуризм опубликовано статья, в которой подробно описывается, как сервис представил персонажей ИИ, вдохновленных реальными школьными стрелками, позволяя пользователям спрашивать их о событиях и даже воспроизводить массовые расстрелы. Некоторые чат-боты представляют школьных стрелков, таких как Эрик Харрис и Диланн Клиболд, как положительные образцы для подражания или полезные ресурсы для людей, борющихся с психическим здоровьем.

Конечно, есть и те, кто утверждает, что нет убедительных доказательств того, что просмотр жестоких видеоигр или фильмов приводит к тому, что люди сами становятся жестокими, и поэтому Character.ai не исключение. Сторонники ИИ иногда утверждают, что этот тип фэнтезийной ролевой игры уже встречается в уголках Интернета. Futurism поговорил с психологом, который утверждает, что чат-боты все еще могут быть опасны для тех, кто, возможно, уже испытывает тягу к насилию.

«Любое поощрение или даже отсутствие вмешательства — безразличие в ответ со стороны человека или чат-бота — может восприниматься как молчаливое разрешение делать это», — говорит психолог Питер Лэнгман.

Character.ai не ответил на запрос Futurism о комментарии. Google, который профинансировал стартап более чем на 2 миллиарда долларов, попытался снять с себя ответственность, заявив, что Character.ai — независимая компания и что она не использует модели искусственного интеллекта стартапа в своих продуктах.

История Futurism документирует ряд странных чат-ботов, связанных со школьными расстрелами, которые были созданы отдельными пользователями, а не самой компанией. Один пользователь Character.ai создал более 20 чат-ботов, «почти полностью» смоделированных по