В США представили правила регулирования дискриминационного ИИ

Американские конгрессмены возобновили усилия по привлечению технологических компаний к ответственности за предвзятость в алгоритмах. Они представили обновленную версию законопроекта, требующего аудита ИИ-систем в таких областях, как финансы, здравоохранение, снабжение жилищем и образование.

Proud to be introducing this much-needed legislation with @SenBooker and @RepYvetteClarke to hold companies accountable for reliance on flawed systems that discriminate against Americans based on age, gender, and race. https://t.co/GKJt5FpMPI— Ron Wyden (@RonWyden) February 3, 2022

По словам одного из авторов документа сенатора Рона Уайдена, законопроект должен приоткрыть занавес над секретными алгоритмами, которые решают, смогут ли американцы обратиться к врачу, арендовать дом или поступить в школу.

«Если кто-то не сдает вам дом из-за цвета кожи, это абсолютная незаконная дискриминация. Использование ошибочного алгоритма или программного обеспечения, которое приводит к дискриминации и предвзятости, также плохо», — говорится в пресс-релизе.

Законопроект потребует от компаний провести аудит систем искусственного интеллекта и сообщить о результатах в Федеральную торговую комиссию (FTC). Сюда относятся любые решения предприятий, среди которых:

стоимость, условия и доступность образования;трудоустройство;основные коммунальные услуги;планирование семьи;здравоохранение;обеспечение жилищем;юридические услуги;любые другие услуги, программы или возможности, влияющие на жизнь потребителя.

Согласно документу, FTC обязуется обнародовать громкие дела, связанные с алгоритмической предвзятостью. Комиссия также должна создать общедоступную базу данных, где потребители смогут просматривать, какие решения принимаются автоматизированными системами в