Еврокомиссия предупредила о рисках ИИ для демократии

Инструменты генеративного искусственного интеллекта несут риски для свободных и справедливых выборов в демократическом обществе. Об этом заявила комиссар Еврокомиссии Вера Юрова. По ее словам, созданная дипфейками дезинформация является потенциальной угрозой для предстоящего голосования нового Европарламента.

Юрова оценила меры безопасности для информирования пользователей о «синтетическом происхождении контента», но также призвала к их дальнейшему расширению. «Эти усилия необходимо продолжать и активизировать, учитывая высокий потенциал реалистичных ИИ-продуктов для создания и распространения дезинформации. Риски особенно высоки в контексте выборов.

Поэтому я призываю платформы проявлять бдительность и обеспечивать эффективные гарантии безопасности», — предупредила она. Комиссар ЕС отметила, что встречалась с руководителями компании OpenAI и обсуждала с ними эти вопросы. В апреле группа европейских законодателей сообщила о планах разработать проект правил для контроля за развитием ИИ-систем.

Позднее Европарламент внес в документ поправки, которые запрещают широкий спектр вариантов использования технологии. К ним относятся ограничения на программы распознавания лиц в общественных местах и алгоритмы предиктивной полицейской деятельности. Также законопроект устанавливает требования по прозрачности к создателям генеративных моделей.

Их обяжут маркировать контент как созданный ИИ, а также раскрывать информацию об используемых для обучения материалах. Напомним, в июне представители ООН заявили, что созданные ИИ дипфейки вредят целостности информации и приводят к разжиганию ненависти в обществе. Исследователи из OpenAI предупредили о растущей угрозе использования языковых моделей для распространения дезинформации.