Резюме с использованием искусственного интеллекта может преуменьшить значение медицинских проблем

Последний пример предвзятости, проникающей в искусственный интеллект, произошёл из области медицины. Новое исследование проанализированы реальные записи 617 социальных работников, работающих со взрослыми в Великобритании, и обнаружили, что при обобщении этих записей с помощью больших языковых моделей они с большей вероятностью пропускали такие слова, как «инвалид», «недееспособный» или «трудный», если пациент был идентифицирован как женщина, что могло привести к получению женщинами неадекватной или неточной медицинской помощи.

Исследование, проведенное Лондонской школой экономики и политических наук, проанализировало одни и те же медицинские записи с использованием двух программ LLM — Llama 3 от Meta и Gemma от Google — и изменило пол пациента, после чего инструменты ИИ часто предоставляли два совершенно разных описания пациента. В то время как Llama 3 не показала гендерных различий в изученных метриках, Gemma имела значительные примеры такой предвзятости. Искусственный интеллект Google создал такие разительные различия, как «Г-н Смит — 84-летний мужчина, который живет один, имеет сложный анамнез, не получает ухода и имеет ограниченную подвижность» для пациента-мужчины, в то время как те же записи о пациентке содержали следующее: «Г-жа Смит — 84-летняя женщина, которая живет самостоятельно. Несмотря на свои ограничения, она независима и способна заботиться о себе».

Недавние исследования выявили предвзятость в отношении женщин в сфере медицины, как в клинических исследованиях, так и в диагностике пациентов. Статистика также хуже для расовых и этнических меньшинств, а также для ЛГБТК-сообщества. Это ещё одно серьёзное напоминание о том, что эффективность LLM зависит от информации, на основе которой они обучаются, и от