Amazon предупредил Белый дом о дыре в Fable 5 — и подставил Anthropic, в которую инвестировал

Издание Politico восстановило хронологию суток, которые привели к экспортному контролю над моделями Anthropic: Claude Fable 5 и Claude Mythos. Тревогу о том, что защиту Fable 5 можно обойти, подняли в Amazon — в компании обнаружили, что если модель просто попросить проверить код на ошибки, то она найдет в нем в том числе уязвимости, которые можно использовать для взлома. Это противоречит заявлениям Anthropic, что защита Fable 5 эффективно блокирует использование модели злоумышленниками.

Именно это за сутки запустило цепочку, закончившуюся отключением моделей. Парадокс в том, что Amazon — один из крупнейших инвесторов самой Anthropic. При этом Amazon не сливал информацию по своей инициативе: по словам источника, компания отвечала на прямой запрос администрации оценить новую модель. Ее находки исследовали в АНБ, и там сочли обход реальной угрозой — чиновник заявил, что у властей есть "доказательства". Amazon оказался не единственным: о проблемах с моделью заявили еще несколько компаний.

В пятницу вопрос дошел до верхушки Белого дома. Амодеи провел три звонка примерно с полудюжиной высокопоставленных чиновников — среди них министр финансов Скотт Бессент, кибердиректор Белого дома Шон Кэрнкросс и министр торговли Говард Латник. Глава Anthropic отстаивал надежность защиты: по его версии, произошел узкий, специфический обход, а не универсальный джейлбрейк, снимающий все ограничения разом. Чиновников это не убедило — Бессент прямо сказал Амодеи, что тот принимает "плохое решение". Дальше версии резко расходятся: Белый дом утверждает, что "часами умолял" компанию поработать вместе над уязвимостью, а источник в Anthropic говорит, что им дали всего 90 минут на снятие моделей и без всяких деталей об угрозе.

Стороны не сходятся даже в