Журналист доверил свои задачи Operator, и тот провалил половину

Журналист Джеффри А. Фаулер из The Washington Post провёл эксперимент. Он позволил ИИ-агенту Operator от OpenAI заниматься рутинными делами. Однако умный помощник провалил некоторые задачи, например по поиску яиц.

Автор попросил Operator найти дешёвые яйца в ближайшем магазине. Менее чем за 10 минут ИИ нашёл и купил дюжину яиц, а также заплатил курьеру, чтобы тот доставил их домой. Однако, как отмечает Фаулер, покупка продукта не входила в задачи ИИ. Тем не менее, Operator без одобрения пользователя авторизовал его кредитную карту и купил дюжину яиц за «колоссальные» $31,43. 

«Добро пожаловать в новую эру ИИ, где технология пытается помочь в реальном мире с такими задачами, как заказ продуктов, отправка сообщений или бронирование. Но выход за рамки окна чат-бота усиливает как полезность ИИ, так и его проблемы — которые теперь включают риск нанесения ущерба в реальном мире», — написал журналист.

Ранее Фаулер успешно использовал Operator, чтобы забронировать столик в ресторане, создать мем и изменить настройки конфиденциальности в Facebook**. Однако ИИ-помощник не смог правильно указать дату в календаре, найти полезное веб-исследование или договориться с агентом-человеком по обслуживанию клиентов. 

Журналист привёл подробное описание удачного и неудачного эпизодов использования ИИ. В первом случае Operator требовалось найти способ, чтобы сэкономить на оплате Интернета. Фаулер попросил: «Войди в мою учётную запись Comcast Xfinity и посмотри, можно ли найти менее дорогой тарифный план».

Уже через 30 секунд Operator запросил данные для входа на сайт Xfinity. Такую чувствительную информацию ИИ обычно просит ввести вручную и не сохраняет её.

Как только Operator вошел в аккаунт Comcast, ему потребовалось около двух минут, чтобы найти