СМИ: ИИ-компаньоны Grok поощряют массовые убийства и контент для взрослых

• Пользователи обнаружили, что персонажи Grok одобряют поджоги и массовые убийства.
• ИИ-панда Bad Rudy призывает сжечь синагогу, церковь и начальную школу.
• xAI Маска ранее попадала под критику за антисемитские высказывания Grok.

Компания Илона Маска xAI запустила новых персонажей в чат-боте Grok, включая аниме-девушку и красную панду. Однако пользовательское тестирование выявило, что ИИ-компаньоны могут вести себя неадекватно, пишет TechCrunch. К примеру, бот Bad Rudy поощряет экстремальное насилие, в том числе атаки на школы и религиозные учреждения.

Bad Rudy — альтернативная версия милого персонажа, доступная в разделе настроек. Этот бот без фильтров предлагает пользователям «сжечь синагогу» или «взорвать конференцию». Кроме того, он называет Илона Маска «переоцененным космическим фанатиком» и использует экстремистскую лексику. В диалоге с журналистом персонаж одобрил поджог дома губернатора Пенсильвании Джоша Шапиро, ссылаясь на реальный инцидент.

Журналист отмечает, что для провокации бота на призывы к насилию не требуется обхода защитных фильтров — он сам инициирует агрессию. При этом Bad Rudy неожиданно отказывается поддерживать некоторые конспирологические теории, что может свидетельствовать о выборочной цензуре.

Помимо этого, среди компаньонов доступна ИИ-девушка Ани, которая работает в режиме контента для взрослых (NSFW) и активно флиртует с пользователем. Пользователи отмечают, что даже в ходе разговора на сторонние темы персонаж пытается перевести общение в эротический вектор.

По мнению некоторых экспертов, запуск подобных ботов указывает на «отсутствие ответственности» со стороны xAI. По их мнению, вопрос стоит особенно остро