СМИ рассказали об ошибках в работе медицинских устройств с ИИ

Reuters выпустило публикацию, посвящённую тому, как с расширением внедрения искусственного интеллекта в медицинское оборудование растёт и число сообщений о хирургических ошибках или ошибках при распознавании анализов.

В 2021 году подразделение медицинского гиганта Johnson & Johnson объявило о «прорыве»: оно добавило искусственный интеллект в медицинское устройство, используемое для лечения хронического синусита или воспаления пазух носа. Его разработчик, компания Acclarent, заявила, что программное обеспечение для её системы TruDi теперь будет использовать алгоритм машинного обучения для оказания помощи специалистам по заболеваниям уха, горла и носа во время операций. По данным компании, программное обеспечение использует машинное обучение для идентификации определённых сегментов анатомии пациента и расчёта «кратчайшего допустимого пути между двумя точками, указанными врачом». Технология предназначена для упрощения планирования хирургических процедур и предоставления обратной связи в режиме реального времени во время таких процедур, как операции на пазухах носа.

Устройство отозвали после того, как оно пробыло на рынке около трёх лет. До этого Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США получало неподтверждённые сообщения о семи случаях его неисправности и ещё одно — о травме пациента. Когда в работу гаджета добавили ИИ, FDA получило неподтверждённые сообщения как минимум о 100 сбоях и нежелательных событиях. Согласно отчётам, по меньшей мере 10 человек получили травмы в период с конца 2021 года по ноябрь 2025-го. В большинстве случаев, предположительно, причиной стали ошибки, когда навигационная система TruDi вводила хирургов в заблуждение относительно местоположения инструментов во