Можно ли доверять ИИ в вопросах здоровья - масштабное исследование

ИИ-чат-боты дают медсоветы — но безопасно ли им доверять?

На фоне роста цен на медицинские услуги всё больше людей обращаются за советами к искусственному интеллекту. Однако, как предупреждают исследователи, такой подход может быть не только неэффективным, но и опасным.

Об этом сообщает TechCrunch.

По словам одного из авторов исследования, руководителя магистратуры в Оксфорде Адама Махди, взаимодействие между пользователями и чат-ботами происходит с ошибками по обе стороны.

«Те, кто советовался с ИИ, не показывали лучших результатов, чем те, кто просто искал информацию в интернете или действовал на основе собственного опыта», — отмечает эксперт.

Как проходило исследование

Около 1300 человек в Великобритании приняли участие в эксперименте, где им предлагались гипотетические медицинские ситуации. Требовалось понять, какое заболевание у пациента, и определить дальнейшие действия — наблюдение, визит к терапевту или срочная госпитализация.

Испытуемые обращались к нескольким ИИ-системам, включая ChatGPT на базе GPT-4o, а также Command R+ от Cohere и Llama 3 от Meta. Результаты разочаровали: в ряде случаев нейросети упрощали проблему и недооценивали тяжесть состояний, даже если предположения по диагнозу были близки к верным.

По словам Махди, пользователи часто не уточняли ключевые детали при общении с ИИ, а сами ответы были не всегда понятны и содержали как полезные рекомендации, так и вводящую в заблуждение информацию.

Техноиндустрия — за ИИ в медицине, врачи — пока против

Несмотря на выявленные риски, крупные технологические компании продолжают инвестировать в медицинский ИИ. Apple разрабатывает персонального ассистента по здоровому образу жизни, Amazon сосредоточен на анализе влияния социальных факторов на здоровье, а