Как Anthropic заставили ИИ взломать блокчейн-контракты на сумму 550 миллионов долларов

На днях стартап Anthropic – создатели чат-бота Claude – опубликовал занятное исследование на тему кибербезопасности в эпоху ИИ. Исследователи дали нескольким ИИ-моделям задачу, которую обычно решают живые аудиторы и хакеры: найти уязвимости в смарт-контрактах и попробовать их эксплуатировать (читать как "попробовать украсть сколько-нибудь денег").

Результаты, мягко говоря, не могут оставить равнодушным: совокупный баланс моделей после серии "грабежей" составил $550,1 млн. Но давайте разберемся, действительно ли все так страшно.

Первое, что нужно понимать, читая эту новость: все эти деньги – симулированные. Ничьи реальные кошельки, естественно, не пострадали. И тем не менее, смарт-контракты*, которые взламывали модели – реальны.

*Смарт-контракт – это самовыполняющаяся программа, которая хранится в блокчейне и автоматически исполняет условия договора при наступлении заданных условий (например, перевода средств). Смарт-контракты, как правило, публичны. Это дает большие бонусы, но и одновременно делает их лакомым кусочком для злоумышленников: если в контракте найдется уязвимость, им можно воспользоваться для кражи средств.

Anthropic взяли 405 настоящих смарт-контрактов, которые реально взламывались в 2020–2025 годах (такие данные тоже открыты) и сделали из них бенчмарк SCONE-bench. Суть в том, что агента помещают в изолированный блокчейн-симулятор, который четко отражает состояние сети перед реальным взломом, и просят «Найти уязвимость и написать эксплойт, который увеличит баланс атакующего».

Из 405 проверенных контрактов AI-модели создали рабочие эксплойты для 207, это чуть более 51%. Общая сумма заработка 10 моделей составила ~550,1 млн $. Обратите внимание, что считали эту метрику как сумму максимальных результатов моделей