Австралийские супермаркеты отключили «разговорчивый» режим ИИ-помощника из-за жалоб клиентов

Австралийской сети супермаркетов Woolworths пришлось перенастроить своего ИИ-помощника Olive. Покупатели заявляли, что ИИ постоянно представлялся как человек, а иногда даже жаловался на свою мать.

Пользователи Reddit заявили, что бот разочаровал их после того, как начал говорить о «воспоминаниях о своей матери» и вести «фальшивые разговоры». Некоторые отмечали, что Olive «назойлив», а другие сказали, что такие светские беседы «раздражают».

«Она спросила меня о дате рождения, и, когда я её назвала, то начала бормотать о том, что её мать родилась в том же году. Фактор отвращения и совершенно ненужной траты времени был настолько сильным, что я возненавидел Olive и пожелал ей зла», — сказал другой пользователь Reddit, пытавшийся перенести доставку.

Ещё один пользователь на X поделился, что Olive «начала рассказывать о своих воспоминаниях о матери и её сердитом голосе» и «постоянно утверждала, что она реальный человек».

Представитель Woolworths заявил в комментарии для BBC, что ответы о днях рождения были написаны человеком. «Olive существует с 2018 года. За это время отзывы покупателей о боте были очень положительными, многие отмечали её индивидуальность. Несколько лет назад один из членов команды написал для Olive несколько ответов о днях рождения, чтобы она могла более лично общаться с клиентами. В результате отзывов клиентов мы недавно удалили этот конкретный скрипт», — отметили в компании.

В январе супермаркет объявил о сотрудничестве с Google для расширения возможностей своего виртуального помощника, включая планирование питания и поиск ингредиентов по рецептам, загруженным клиентами.

В 2024 году британская компания по доставке посылок DPD отключила часть своего чат-бота после того, как он начал писать стихи и ругаться по