Редакторы «Википедии» зафиксировали проблемы из-за ИИ в ряде переводов

Редакторы «Википедии» ввели новые правила и ограничили доступ к информации для ряда авторов. На этот шаг пошли после того, как авторы применили искусственный интеллект для перевода статей на другие языки, что добавило в материалы «галлюцинации» или ошибки.

Проблема началась с организации под названием Open Knowledge Association (OKA). Это НКО, которая занимается улучшением «Википедии» и других открытых платформ.

«Мы делаем это, предоставляя ежемесячные стипендии штатным авторам и переводчикам. Мы используем ИИ (большие языковые модели) для автоматизации большей части работы», — говорится на сайте OKA. 

Инициатива привела к тому, что в переводные материалы проникли ошибки. Например, в черновом переводе статьи «Википедии» о французской королевской семье Ла Бурдонне при обсуждении её происхождения приводится ссылка на книгу и номер конкретной страницы. Редактор Илья Лебле проверил этот источник и обнаружил, что на данной странице «вообще не говорится о семье Ла Бурдонне».

«Я решил во время обсуждения выборочно проверить первые несколько переводов и уже обнаружил там несколько ошибок, так что это не просто выборочные случаи. В некоторых статьях источники были заменены, либо добавлены предложения без объяснений, а в статье о выборах в Сенат Франции 1879 года были добавлены абзацы, взятые из материала, совершенно не связанного с написанным!» — рассказал Лебле. 

По мере того, как редакторы «Википедии» изучали больше статей, переведённых OKA, они обнаруживали всё больше проблем.

«Многие результаты очень неудовлетворительными, с большим количеством [...] редакторов, которые явно очень плохо владеют английским языком, не читают свою работу (или не способны заметить проблемы) и не добавляют ссылки и так далее», — говорится на странице