Комитет по искусственному интеллекту Совета Европы создает новый инструмент

Комитет Совета Европы по искусственному интеллекту (CAI) приняла Методологию оценки рисков и последствий искусственный интеллект системы с точки зрения прав человека, демократии и верховенства закона (Методология ХУДЕРИИ)), первый в своем роде инструмент, который предоставляет руководство и структурированный подход для оценки рисков и последствий искусственный интеллект систем и направлен на поддержку внедрения Рамочная конвенция об искусственном интеллекте и правах человека, демократии и верховенстве закона , первый в истории международный юридически обязывающий договор в этой области.

Методология HUDERIA специально разработана для защиты и продвижения прав человека, демократии и верховенства закона. Как государственные, так и частные субъекты могут использовать ее для выявления и устранения рисков и воздействий на права человека, демократию и верховенство закона на протяжении всего жизненного цикла систем ИИ.

По сути, HUDERIA оценивает системы ИИ в более широком социальном контексте, признавая, что воздействие ИИ возникает из-за сложного взаимодействия между техническими системами и социальными структурами. Методология включает, среди прочего, создание плана по снижению рисков для минимизации или устранения выявленных рисков, защищая общество от потенциального вреда.

Например, если будет обнаружено, что система искусственного интеллекта, используемая при найме, предвзята по отношению к определенным демографическим группам, план смягчения последствий может включать корректировку алгоритма, введение человеческого надзора и/или применение других соответствующих и достаточных мер управления.

Методология требует регулярных переоценок, чтобы гарантировать, что система ИИ продолжает работать безопасно и в соответствии с