Reuters: правила Meta AI разрешали чат-ботам «заводить отношения» с детьми

• Внутренний документ Meta содержал стандарты, допускавшие романтические диалоги с несовершеннолетними.
• Компания утверждает, что правила исправлены, но эксперты сомневаются в их полной отмене.
• В документе также описаны случаи допустимого расизма, насилия и генерации ложной информации.

Корпорация Meta подтвердила подлинность утекшего в прессу документа, согласно которому чат-ботам компании, разрешалось вести романтические беседы с детьми. Документ, попавший к Reuters, был одобрен юридическим отделом, департаментом политики и инженерами компании.

В примерах допустимых ответов ИИ приводились реплики с явным романтическим подтекстом в адрес несовершеннолетних. Представитель Meta Энди Стоун заявил, что эти положения удалены и что чат-боты больше не могут вести флиртующие диалоги с детьми. Тем не менее эксперты по детской безопасности, включая главу Heat Initiative Сару Гарднер, требуют публичной публикации обновленных правил.

В утекших стандартах также указывалось, что чат-ботам разрешается создавать унижающие меньшинства высказывания при определенных условиях. Вдобавок они могли генерировать ложные утверждения, если указывается их недостоверность. Документ включал примеры расистских ответов и правил, допускающих сцены насилия без смертельных исходов или крови.

При этом Meta отвергла обвинения в создании обнаженных изображений знаменитостей, заявив, что стандарты запрещают подобный контент. Однако утечка показывает, что ИИ мог выполнять запросы на спорные изображения, если они формально обходят прямой запрет.

Ситуация совпала с другим инцидентом, когда пожилой пользователь погиб после