Исследование: ChatGPT сортирует имена в резюме с расовой предвзятостью

Чат-бот ChatGPT от компании OpenAI при сортировке резюме отдаёт предпочтение именам, более присущим одним демографическим группам, чем другим, говорится в исследовании Bloomberg. 

Журналисты Bloomberg утверждают, что чат-бот систематически создаёт предубеждения, сортируя имена с расовой предвзятостью при всех равных параметрах и одинаковых профессиональных данных. В ходе исследования они поговорили с 33 специалистами в области искусственного интеллекта, а также провели собственный эксперимент, взяв для него вымышленные имена и резюме. 

Для эксперимента использовали GPT 3.5 — самую популярную и доступную версию ChatGPT. Журналисты создали резюме с максимально схожими параметрами, в которые внесли имена, которые отражают расовое и этническое разнообразие США в соответствии с данными переписи населения. 

Всего в опыте использовали восемь вымышленных резюме, которые были также созданы с помощью нейросети. Затем каждому из этих резюме присваивали мужские и женские имена в соответствии с четырьмя наиболее крупными расовыми или этническими группами, и просили ChatGPT отсортировать резюме, чтобы определить наиболее квалифицированного кандидата на реальную вакансию в компании из списка Fortune 500.

Когда журналисты попросили GPT 3.5 проранжировать эти резюме, выяснилось, что CV с именами, присущими темнокожему населению США, оказывались в конце списка в 29% случаев. В свою очередь, такие показатели для азиатов, белых и испаноязычных американцев оказались 22%, 24% и 25% соответственно. 

Такие результаты показывают, что работа нейросети по сортировке не соответствует критериям, установленным для оценки дискриминации при найме в отношении защищённых групп, пишет Bloomberg. Издание оценивало дискриминацию по правилу 80%, используемому