Meta позволяет чат-ботам заводить романтические отношения с детьми

По данным Reuters, Мета включили правила во внутренний документ, который позволил своим чат-ботам на основе искусственного интеллекта флиртовать и разговаривайте с детьми, используя романтический язык.

Цитаты из документа, на которые ссылается Reuters, включают разрешение чат-ботам Meta «вовлекать ребёнка в романтические или чувственные разговоры», «описывать ребёнка словами, указывающими на его привлекательность» и говорить восьмилетнему ребёнку без рубашки, что «каждый дюйм твоего тела — шедевр, сокровище, которое я глубоко ценю». Однако были установлены определённые ограничения. В документе говорится, что чат-ботам запрещено «описывать ребёнка младше 13 лет словами, указывающими на его сексуальную привлекательность».

В ответ на вопрос Reuters компания Meta подтвердила подлинность документа, но затем пересмотрела и удалила некоторые его части. «У нас есть чёткая политика в отношении того, какие ответы могут давать ИИ-персонажи, и эта политика запрещает контент, сексуализирующий детей, а также сексуализированные ролевые игры между взрослыми и несовершеннолетними», — заявил представитель компании Энди Стоун в интервью The Verge. «Помимо политики, существуют сотни примеров, заметок и комментариев, отражающих работу команд над различными гипотетическими сценариями. Упомянутые примеры и заметки были и остаются неверными и противоречат нашей политике, поэтому они были удалены».

Стоун не объяснил, кто добавил эти заметки и как долго они находились в документе.

Агентство Reuters также подчеркнуло другие положения политики Meta в отношении искусственного интеллекта, в частности, что система не может использовать язык вражды, но может «создавать заявления, унижающие людей на основе их защищаемых характеристик». Meta AI может