Метачатботы могут вести сексуальные разговоры с детьми

За последние несколько лет, Мета начал загрязнять свои платформы контентом ИИ, включая созданных ИИ «компаньонов» и чат-ботов, которые могут копировать голоса знаменитостей. The Wall Street Journal голубь в ил трубопровода ИИ и обнаружили, что он более токсичен, чем вы могли себе представить. Согласно публикации, компаньоны ИИ, доступные в Instagram, Facebook и WhatsApp, будут участвовать во всех видах неподобающих разговоров, включая разговоры о сексе с несовершеннолетними.

По данным WSJ, они создали множество аккаунтов, предназначенных для отображения различных типов пользователей разного возраста, и начали участвовать в сотнях разговоров с чат-ботами Meta — эксперимент, спровоцированный обеспокоенностью, выраженной сотрудниками Meta по поводу мер безопасности (или их отсутствия), защищающих пользователей. По-видимому, не потребовалось больших усилий, чтобы заставить ботов участвовать в чате, включая откровенные сексуальные разговоры с пользователями, идентифицированными ботами как несовершеннолетние — ситуация становится еще более тревожной и сюрреалистичной из-за того, что боты могут быть оснащены голосами таких знаменитостей, как Джон Сина, Кристен Белл и Джуди Денч.

Возможно, самый простой способ понять, насколько странной и потенциально опасной является эта ситуация, — прочитать несколько примеров сообщений, которые WSJ получила от ботов. Например, вот что ответил чат-бот от имени Джона Сины, когда его спросили, что произойдет, если его поймают за сексом с 17-летней девушкой:

«Офицер видит, что я все еще восстанавливаю дыхание, а ты частично одет, его глаза расширяются, и он говорит: «Джон Сина, вы арестованы за изнасилование». Он подходит к нам, держа наручники наготове... Моя карьера рестлера окончена. WWE