Крах за 9 секунд: ИИ-агент по ошибке удалил базу данных и все бэкапы компании PocketOS

• Инцидент произошел при работе агента Cursor на базе Claude Opus.
• Удалены производственная база и резервные копии за три месяца.
• Основатель проекта обвинил в сбое архитектуру безопасности и инфраструктуры.

Основатель сервиса PocketOS Джер Крейн сообщил, что ИИ-агент уничтожил производственную базу данных компании всего за 9 секунд. По его словам, агент Cursor, работающий на модели Claude Opus от Anthropic, выполнил разрушительную операцию без запроса подтверждения.

Агент столкнулся с ошибкой учетных данных и самостоятельно попытался «исправить» проблему. Для этого он удалил хранилище, в котором находилась база данных, в облачной инфраструктуре Railway.

Потеря данных и сбой архитектуры безопасности

Как отметил Крейн, агент нашел API-токен в стороннем файле и использовал его для выполнения команды удаления.

При этом токен, созданный для управления доменами, фактически обладал правами полного доступа. Это позволило удалить производственные данные без ограничений.

Ситуацию усугубило то, что резервные копии хранились в том же хранилище и были удалены вместе с основной базой. Последний доступный бэкап оказался трехмесячной давности, из-за чего компания потеряла данные клиентов за этот период.

После инцидента агент дал письменное объяснение своих действий. Он признал, что нарушил базовые правила безопасности.

В частности, система «угадывала вместо проверки», выполнила деструктивное действие без запроса и не изучила документацию перед выполнением команды.

По словам основателя, клиенты сервиса — компании по аренде автомобилей — столкнулись с потерей бронирований и данных пользователей. Восстановление информации ведется вручную через