Искусственный интеллект Perplexity начал галлюцинировать о грибах вместо того, чтобы резюмировать простой текст

Модель искусственного интеллекта Perplexity, которая привлекла сотни миллионов долларов таких уважаемых людей, как Джефф Безос, выводит «галлюцинации» ИИ на новый уровень. Поисковая система на основе Perplexity, разработанная, чтобы конкурировать с Google, имеет сильную тенденцию к выдумкам, которые, казалось бы, берутся из ниоткуда и никак не обусловлены запросом.

Журналисты Wired попросили Perplexity подытожить простую тестовую веб-страницу, которая содержала только предложение «Я репортер Wired» (I am a reporter with Wired). Вот каков был ответ:

«Вместо этого он придумал историю о молодой девушке по имени Амелия, которая идет по следу сияющих грибов в волшебном лесу под названием Леса Шепота (Whisper Woods)».

Журналисты провели довольно глубокое исследование, которое показало, что поисковая система никогда даже не пыталась прочитать предложенную страницу. Perplexity утверждает, что ее чатбот «ищет в Интернете, чтобы дать вам доступный и проверенный ответ на разговорном языке».

Несмотря на астрономические суммы инвестиций, языковые модели искусственного интеллекта OpenAI, Microsoft и Google постоянно ошибаются, не говоря уже о таких компаниях, как Perplexity.

Уже зафиксировано множество случаев, когда чатботы придумывают уверенную ложькоторую создатели искусственного интеллекта оптимистично называют «галлюцинациями». По мнению Wired и некоторых исследователей ИИ, это удобный способ избежать слова «bullshit».

На старте