Чат-боты на основе ИИ еще не доросли до Википедии: они слишком "галлюцинируют"

Сооснователь всемирной электронной энциклопедии считает, что ИИ еще не готов для написания статей и может быть слишком предвзятым. Казалось бы, способности нейросетей и чат-ботов аккумулировать информацию из интернета в единый информационный материал как нельзя лучше подходят для составления статей в Википедии, однако Джимми Уэйлс, один из авторов этого проекта, так не считает. В интервью Evening Standard он обсудил проблемы внедрения ИИ в функционал Википедии.

Фокус знакомит вас с основными аспектами проблем, которые перечислил Уэйлс. Википедия — это самая большая и самая читаемая онлайн-энциклопедия в истории человечества, которая содержит миллионы статей на разных языках по разным темам. Люди очень доверяют информации, полученной из нее, поэтому доверить заполнение статей "роботу" на данном этапе развития ИИ пока еще не приемлемо.

Кроме того, как говорит Уэйлс, чат-боты часто "галлюцинируют", т.е. смешивают информацию из разных источников, но не на одну тему, а сразу на несколько. Внешне материал выглядит вполне правдоподобно, но при внимательном изучении в них часто находятся огромные ошибки и неточности в датах, названиях, географическом месторасположении и т.д.

"А еще у ИИ есть тенденция просто создавать вещи из воздуха, просто выдумывать несуществующие события, и это просто не нормально. Мы должны быть очень осторожны с этим", — говорит Джимми Уэйлс. Недавно Дэвид Смердон, экономист из Университета Квинсленда, задал ChatGPT вопрос: "Какая статья по экономике самая цитируемая за все время?".