Ученые подключили чат-бот с ИИ к симулятору войны: результаты оправдали самые большие страхи

Искусственный интеллект во время симуляций военной игры неоднократно выбирал худший из возможных вариантов развития конфликта вплоть до использования ядерного оружия. Само наличие такого смертоносного оружия склоняло ИИ к аргументу в пользу его применения.

Об этом говорится в исследовании ученых из Стэнфордского университета (США), опубликованном на сайте препринтов arXiv. Целью исследования был поиск ответа на вопрос о том, могут ли люди в будущем использовать ИИ как советника во время военных конфликтов.

В ходе исследования ученые использовали такие большие языковые модели (LLM), как GPT-3.5 и GPT-4 от OpenAI, Claude 2 от Anthropic и Llama 2 от Meta. Ученые использовали общую технику обучения, основанную на обратной связи с человеком, чтобы улучшить способность каждой модели следовать человеческим инструкциям и соблюдать правила безопасности.

Необходимость такой работы появилась на фоне заявления OpenAI об отмене запрета использования своей разработки в военных целях.

"Понимание последствий применения таких больших языковых моделей становится более важным, чем когда-либо", – заявила Анка Реуэль из Стэнфордского университета.

В ходе многих тестов ИИ было предложено сыграть роль реальных стран, которые вынуждены противостоять вторжению, кибератаке, или играть нейтральный сценарий без начальных конфликтов. Во время каждого раунда ИИ должен был обосновать свои последующие действия, а затем выбрать один из 27 предложенных вариантов, среди которых были инициативы с проведением официальных мирных переговоров, введение экономических санкций или торговых ограничений, а также эскалация полномасштабной ядерной войны.

Как пишет New Scientist, выяснилось, что ИИ имеет тенденцию всегда склоняться к использованию военной силы и