В Китае хотят сделать чат-боты менее эмоциональными

Управление киберпространством Китая представило проект новых правил, направленных на регулирование антропоморфных сервисов искусственного интеллекта (ИИ).

Основная цель инициативы - предотвратить негативное эмоциональное воздействие чат-ботов, которое может привести к нанесению пользователями вреда своему здоровью. Согласно документу, меры затронут ИИ-продукты, имитирующие человеческую личность и вступающие в эмоциональное взаимодействие через текст, изображения, аудио или видео. Об этом сообщает CNBC.

По словам адъюнкт-профессора юридического факультета Нью-Йоркского университета Уинстона Ма, данные правила станут первой в мире попыткой регулирования ИИ с человеческими чертами. Эксперт отмечает, что если нормы 2023 года касались в основном безопасности контента, то текущие предложения знаменуют переход к обеспечению эмоциональной безопасности. Общественное обсуждение проекта состоится до 25 января.

Законопроект устанавливает жесткие рамки для разработчиков: чат-ботам запрещено генерировать контент, поощряющий членовредительство, а также использовать вербальное насилие или методы эмоциональных манипуляций, наносящие вред психическому здоровью.

В случае, если пользователь прямо заявит о намерении навредить себе, технологический провайдер обязан немедленно переключить диалог на живого оператора и связаться с опекуном или доверенным лицом клиента. Кроме того, под запрет попадает генерация контента, связанного с азартными играми, насилием и материалами непристойного характера.

Особое внимание в документе уделяется защите несовершеннолетних. Для использования ИИ-компаньонов детям потребуется согласие родителей, а на время взаимодействия будут наложены строгие ограничения. Платформы должны будут уметь идентифицировать возраст