Ошибки при использовании ИИ-ассистента вызвали перебои в работе сервиса Amazon

Технологический гигант объяснил декабрьский инцидент с инструментом Kiro «ошибкой пользователя, а не ошибкой ИИ»

Облачное подразделение Amazon столкнулось как минимум с двумя сбоями, связанными с использованием собственных инструментов искусственного интеллекта. Это вызвало у части сотрудников сомнения в стратегии компании по активному внедрению ИИ-ассистентов для программирования.

В середине декабря в Amazon Web Services произошёл 13-часовой сбой в работе одного из сервисов, которым пользуются клиенты. По словам четырёх осведомлённых источников, инженеры позволили ИИ-инструменту для написания кода Kiro внести ряд изменений, что и привело к перебоям.

Как утверждают собеседники, агентный инструмент — способный самостоятельно выполнять действия по поручению пользователя — решил, что оптимальным решением будет «удалить и заново создать среду».

Amazon опубликовала внутренний отчёт о причинах «инцидента», затронувшего систему AWS, с помощью которой клиенты анализируют расходы на облачные сервисы.

Несколько сотрудников Amazon сообщили Financial Times, что это уже второй случай за последние месяцы, когда один из ИИ-инструментов компании оказался в центре инцидента, повлиявшего на работу сервисов.

«За последние месяцы мы уже видели как минимум два сбоя в продакшене, — рассказал один из старших сотрудников AWS. — Инженеры позволили ИИ-агенту самостоятельно устранить проблему, без дополнительного вмешательства. Сбои были незначительными, но их вполне можно было предвидеть».

AWS, на которую приходится около 60% операционной прибыли Amazon, активно развивает и внедряет инструменты на базе ИИ, включая «агентов», способных самостоятельно выполнять действия на основе инструкций человека.

Как и многие другие крупные технологические компании,