Научный мусор, созданный ИИ, является большой проблемой для Google Scholar

Научные исследования, созданные с помощью искусственного интеллекта, загрязняющий экосистема академической информации в Интернете, согласно тревожному отчету, опубликованному в «Обзоре дезинформации» Гарвардской школы имени Кеннеди.

Группа исследователей изучила распространенность научных статей с признаками искусственно сгенерированного текста в Google Scholar — академической поисковой системе, которая позволяет легко находить исследования, опубликованные в прошлом в различных научных журналах.

Команда специально исследовала неправильное использование генеративных предобученных трансформаторов (GPT), типа большой языковой модели (LLM), которая включает знакомое программное обеспечение, такое как ChatGPT от OpenAI. Эти модели способны быстро интерпретировать входной текст и быстро генерировать ответы в виде чисел, изображений и длинных строк текста.

В своем исследовании команда проанализировала выборку исследовательских работ, найденных в Google Scholar, в которых были обнаружены признаки использования GPT. Выбранные статьи содержали одну или две общие фразы, используемые диалоговыми агентами (обычно чатботами), которыми управляли специалисты по праву. Затем исследователи изучили, в какой степени эти сомнительные статьи распространялись и размещались в Интернете.

«Риск того, что мы называем «взломом доказательств», значительно возрастает, когда исследования, созданные искусственным интеллектом, публикуются в поисковых системах», — сказал Бьёрн Экстрём, исследователь из Шведской школы библиотековедения и информатики и соавтор статьи, в пресс-релизе Университета Бороса. «Это может иметь ощутимые последствия, поскольку неверные результаты могут проникнуть глубже в общество и, возможно, во все большее количество областей».

П