Первые в мире правила для искусственного: Европарламент принял AI Act

Европарламент принял закон под названием AI Act, устанавливающий правила и требования для разработчиков моделей искусственного интеллекта. Документ призван обеспечить безопасность, прозрачность, экологичность и этичность использования ИИ в Европе. Об этом noworries.

Правила устанавливают риск-ориентированный подход к ИИ и формулируют обязательства для разработчиков и пользователей ИИ в зависимости от уровня риска, который он может создавать.

Системы ИИ с неприемлемым уровнем риска безопасности людей будут строго запрещены. В эту группу войдут, например, системы, использующие подсознательные или целенаправленные манипулятивные методы, эксплуатирующие уязвимости людей или используемые для социальной оценки (классификация людей на основе их поведения, социально-экономического статуса, личных характеристик).

Парламент также уточнил список практик, запрещенных к искусственному интеллекту. В него вошли:

Читайте:

Закон уточняет список АИ-систем «высокого риска». Согласно документу, это системы, которые могут потенциально нанести вред здоровью людей или окружающей среде. Сюда также входят системы искусственного интеллекта, которые используются для воздействия на избирателей в политических кампаниях и алгоритмов рекомендаций соцсетей.

Поставщики и разработчики «высокорискового» ИИ обязаны в соответствии с законом провести оценку риска и соответствия, зарегистрировать свои системы в европейской базе данных ИИ, обеспечить высокое качество данных, используемых для обучения ИИ, обеспечить прозрачность системы и информированность пользователей, а также обязательное наблюдение со стороны человека и возможность вмешательства в работу системы.

Читайте:

Что касается «низкорискового» ИИ, такого как чат-боты, его поставщики обязаны