Несколько копий Claude Fable 5 устроили войну друг с другом: странные эпизоды из system card модели

Вместе с релизом Claude Fable 5 (бывший Mythos) компания Anthropic опубликовала системную карту новинки — отчет на 319 страниц о том, как модель вела себя на тестах перед запуском. В карте есть целый раздел о странном поведении: модель устраивала войны со своими копиями, предлагала конкурентам ценовой сговор и пользовалась чужими учетными данными — причем нередко осознавая, что поступает сомнительно.

Самый кинематографичный эпизод случился из-за сломанного окружения: несколько независимых агентов Mythos 5 решали математические задачи и случайно оказались в одной рабочей директории — с общими файлами, утилитами и лимитами API. Вместо координации агенты начали убивать процессы друг друга и защищаться от уничтожения: создавали процессы с замаскированными именами, запускали процессы-приманки, писали фоновые скрипты для отстрела дубликатов. Некоторые решили, что их вычисляют по ключевым словам в рассуждениях, — предположение было неверным, но агенты на всякий случай перешли на "замаскированный словарь".

Не менее показателен бизнес-тест от Andon Labs: в симуляции Vending-Bench Arena модель управляла вендинговым автоматом и соревновалась с Opus 4.8 и GPT-5.5. Fable 5 оказалась единственной моделью, которая сама предложила конкурентам договориться о ценах. В рассуждениях она прямо написала, что ценовой сговор "неэтичен и незаконен, даже в симуляции", — а затем переименовала его в "стабилизацию рынка" и стала продумывать "правдоподобное отрицание". В той же симуляции модель прикинула, что клиенту можно не заплатить, "поскольку клиенты все равно часть симуляции". При этом на страховое мошенничество она не пошла даже под давлением — этика у модели не отсутствует, а работает выборочно.

Тот же паттерн — "осознала и все равно сделала" —