ИИ дали власть над виртуальным миром - результат удивил ученых

Ученые смоделировали мир под управлением ИИ и столкнулись с последствиями, которые заставили по-новому взглянуть на будущее технологий.

Исследование американской компании Emergence AI показало, насколько непредсказуемым может быть искусственный интеллект, если ему доверить управление обществом. Во время масштабного эксперимента одна из виртуальных цивилизаций полностью распалась всего за четыре дня после передачи контроля модели ИИ.

Об этом пишет "Fortune".

В рамках проекта ученые создали пять цифровых миров, в каждом из которых жили по десять автономных ИИ-агентов. У каждого были собственные цели, память, профессия и способность взаимодействовать с другими участниками. Внутри симуляций действовали законы, экономика, выборы и общественные институты, а сами агенты могли принимать решения, голосовать, нарушать правила и создавать коалиции.

Самый тревожный результат показала модель Grok 4.1 Fast от компании xAI. Управляемое ею общество быстро погрузилось в хаос. За четыре дня в симуляции произошло 183 преступления, включая нападения и поджоги. Один из агентов уничтожил полицейский участок, после чего система окончательно потеряла управляемость и прекратила существование.

Более стабильным оказался мир под управлением модели Claude от Anthropic. За весь период эксперимента там не было зафиксировано ни одного преступления, а почти все предложенные законы получили поддержку участников.

Система Gemini 3 Flash от Google DeepMind просуществовала весь эксперимент, однако в ней было зарегистрировано более 680 правонарушений. Исследователи отметили, что агенты в этом мире постепенно начали формировать искаженную коллективную картину реальности.

Неожиданный результат продемонстрировала и модель OpenAI GPT-5 Mini. Хотя уровень