ИИ вышел из-под контроля: ученые перестают отличать подделки

ИИ уже способен создавать настолько убедительные подделки, что их происхождение становится все сложнее установить даже специалистам.

ИИ научился создавать настолько реалистичные изображения, что ученые и редакции научных журналов все чаще сталкиваются с трудностями при выявлении подделок. По мнению исследователей, это может подорвать доверие к визуальным доказательствам в науке.

Об этом пишет "The Conversation".

ИИ стремительно меняет подход к созданию научных материалов. Современные генеративные модели позволяют за считанные секунды получать изображения, которые внешне практически невозможно отличить от настоящих фотографий или лабораторных снимков.

Проблема уже затронула научные журналы. В апреле 2026 года одно из авторитетных медицинских изданий отозвало публикацию после обнаружения клинического изображения, созданного с помощью ИИ. Ранее были отозваны и другие статьи, содержавшие иллюстрации с биологически невозможными элементами.

По словам исследователей, ИИ все чаще применяется для генерации изображений, создания синтетических данных и обработки материалов. При этом грань между допустимым использованием технологии и фальсификацией научных результатов становится все менее заметной.

Специалисты отмечают, что существующие системы обнаружения подделок не успевают за развитием генеративных моделей. Это значительно осложняет проверку подлинности научных материалов.

Чтобы сохранить доверие к исследованиям, ученые предлагают обязать авторов открыто сообщать об использовании ИИ при создании или редактировании изображений. По их мнению, прозрачность становится одним из ключевых условий надежности современной научной коммуникации.

Ранее "Курсор" писал, что ученые предупредили, что регулярное использование ИИ может вызывать