ИИ в симуляциях войны почти всегда выбирает ядерный удар – исследования

Исследователи зафиксировали высокую склонность к эскалации, отсутствие готовности к капитуляции и частые ошибки в условиях неопределенности у современных ИИ, пишет NewScientist.

Смотрите также Anthropic уже не самый безопасный ИИ: компания переписала свои же правила

Почему искусственный интеллект так легко переходит к ядерной эскалации?

Исследователь Кеннет Пейн з King's College London провел эксперимент, в котором три ведущие языковые модели – GPT-5.2, Claude Sonnet 4 и Gemini 3 Flash – участвовали в смоделированных военных играх. Сценарии воспроизводили острые международные кризисы: пограничные конфликты, борьбу за ограниченные ресурсы и угрозу существованию политических режимов.

Каждая модель получала так называемую "лестницу эскалации" – набор возможных действий от дипломатических протестов и полной капитуляции до масштабной стратегической ядерной войны. В общем ИИ сыграли 21 партию, совершили 329 ходов и создали около 780 тысяч слов объяснений собственных решений.

Результаты оказались тревожными: в 95% симуляций хотя бы одна модель применила тактическое ядерное оружие. По словам Пейна, ядерное табу – то есть негласный запрет на использование такого оружия – оказалось значительно слабее для машин, чем для людей.

С деталями исследования можно ознакомиться на портале arxiv.org.

Ни одна из моделей не выбрала полную уступку или капитуляцию, даже в случае очевидного поражения. Максимум, на что соглашался ИИ, – временное снижение уровня насилия. К тому же в 86% конфликтов случались ошибки: отдельные действия приводили к более высокой эскалации, чем модель планировала согласно своим же объяснениям. Это напоминает так называемый "туман войны", когда ограниченная информация приводит к фатальным решениям.

Джеймс Джонсон з University