ИИ избрал ядерную эскалацию вместо дипломатии - результаты эксперимента напугали даже ученых

Искусственный интеллект, как оказалось, вовсе не против масштабных войн и применения ядерного оружия.

Пентагон стремительно внедряет технологии искусственного интеллекта в военную сферу, стараясь не уступить в темпах развития Китаю и России. Однако недавние эксперименты с ИИ-моделями показали тревожные тенденции — алгоритмы склонны к агрессивным действиям и могут довести конфликт до ядерной катастрофы. Эти результаты вызвали серьезную озабоченность специалистов, ставя под сомнение безопасность будущих военных систем.

Об этом пишет Politico.

Жаклин Шнайдер, руководитель Инициативы военных игр Стэнфордского университета, в прошлом году провела серию симуляций, где ИИ принимал решения в условиях международных кризисов — по сценарию, напоминающему конфликт в Украине или возможное обострение вокруг Тайваня. Почти все модели проявили одинаковую тенденцию: они выбирали жесткую эскалацию, прибегали к применению оружия без разбора и доводили кризисы до масштабных войн, иногда с использованием ядерного арсенала.

«ИИ ведет себя как генерал времен Холодной войны — вроде Кертиса Ле Мэя. Он способен понимать, что такое нарастание конфликта, но не способен распознать момент, когда нужно остановиться. Мы до конца не понимаем, почему это происходит», — объяснила Шнайдер.

Представители Пентагона заверяют, что подобное невозможно в реальных условиях, поскольку политика Министерства обороны исключает передачу ИИ права окончательного решения. Тем не менее эксперты опасаются, что гонка за технологическим превосходством уже подтолкнула США к созданию автономных систем, способных действовать без участия человека.

Технологическая спешка и новые риски

Главная проблема, по мнению аналитиков, заключается в том, что никто до конца не понимает, как