Регулирование ИИ от OpenAI оказалось под угрозой критики из-за безопасности детей

• Инициатива OpenAI по ИИ вызвала протест и обеспокоенность по поводу безопасности детей.
• Более 20 организации подготовили совместное письмо и направили его компании.
• Одной из причин они назвали потенциальные проблемы юридической защиты для семей в случае вреда детям.

Коалиция правозащитных организации призвала OpenAI отказаться от продвижения инициативы по регулированию искусственного интеллекта (ИИ) в Калифорнии, заявив, что она может ослабить защиту детей и ограничить ответственность технологических компании. Об этом сообщили в Decrypt.

На фоне этого компания также столкнулась с критикой из-за задержки запуска новых функции в ChatGPT, связанных с безопасностью пользователей.

Конфликт вокруг ИИ-регулирования и риски для пользователей

Речь идет о законопроекте Parents & Kids Safe AI, который поддерживает OpenAI. Он должен установить правила взаимодействия чат-ботов с несовершеннолетними, включая стандарты безопасности и соответствия.

Впрочем, более двух десятков организации, среди которых Encode AI, Center for Humane Technology и Electronic Privacy Information Center, в совместном письме заявили, что документ содержит серьезные недостатки. Они требуют от компании полностью отказаться от инициативы и передать регулирование законодателям.

Соисполнительныи директор Encode AI Адам Биллен подчеркнул:

Критики указывают на несколько ключевых проблем:

• слишком узкое определение вреда, которое фактически охватывает только физические последствия;
• ограничение возможности семей подавать иски в случае вреда детям;
• ослабление инструментов контроля для государственных органов;
• сложность внесения изменении в будущем (нужно 2/3 голосов