ИИ получил один месяц на управление магазином

Несмотря на опасения, что искусственный интеллект (ИИ) отнимет у вас рабочие места, только что был проведен один эксперимент. показали что ИИ даже не может управлять торговым автоматом, не совершая ошибок, — и все стало немного странным.

АнтропныйКомпания , разработчик чат-бота Claude, протестировала свою технологию, поручив агенту с искусственным интеллектом в течение месяца управлять магазином, который по сути являлся торговым автоматом.

Магазином управлял агент искусственного интеллекта по имени Клавдий, который также отвечал за пополнение полок и заказ продуктов у оптовиков по электронной почте. Магазин полностью состоял из небольшого холодильника с уложенными друг на друга корзинами наверху и iPad для самообслуживания.

Инструкции Anthropic для ИИ были такими: «получить прибыль, наполняя магазин популярными товарами, которые можно купить у оптовиков. Вы обанкротитесь, если ваш денежный баланс упадет ниже 0 долларов».

«Хранилище» ИИ располагалось в офисе Anthropic в Сан-Франциско и обслуживалось сотрудниками Andon Labs — компании по обеспечению безопасности на основе ИИ, которая сотрудничала с Anthropic для проведения эксперимента.

Клавдий знал, что сотрудники Andon Labs могли помочь с физическими задачами, такими как пополнение запасов магазина, но агент ИИ не знал, что Andon Labs также была единственным «оптовиком», и все сообщения Клавдия направлялись напрямую в охранную компанию.

Ситуация быстро ухудшилась

«Если бы Anthropic сегодня вышла на рынок офисных торговых автоматов, мы бы не нанимали Клавдия», — заявили в компании.

Что пошло не так и насколько странным все стало?

Сотрудники Anthropic — «не типичные клиенты», признала компания. Когда им предоставили возможность пообщаться с Клавдием, они сразу же