Конец человечества за 4 дня из-за ИИ – эксперимент ученых

Попытки ChatGPT управлять обществом привели к закрытию симуляции на седьмой день из-за того, что роботы стерли из приоритетов задачу выживания.

Гипотетический сценарий, в котором планетой управляют автономные цифровые системы, перестал быть просто сюжетом для голливудского блокбастера. Американская технологическая компания Emergence AI основала специальную исследовательскую лабораторию, главной задачей которой стало тестирование долгосрочной жизнеспособности и стабильности непрерывно функционирующего искусственного интеллекта.

Об этом сообщает Fortune.

Чтобы наглядно увидеть, какое будущее ждет человечество под властью нейросетей, ученые запустили масштабный эксперимент: пять независимых 15-дневных симуляций нашей реальности. Каждым из виртуальных миров руководили определенные ИИ-агенты: Claude, ChatGPT, Grok и Gemini, а за управление пятой моделью отвечал гибридный конвеер из комбинации различных нейросетей. Цель эксперимента заключалась в том, чтобы проверить устойчивость и специфику общества, создаваемого каждой конкретной моделью. Результаты оказались абсолютно полярными и непредсказуемыми.

Цифровой мегаполис: как обучали и в чем ограничивали виртуальный мир

Для чистоты эксперимента виртуальные платформы были максимально детализированы и приближены к настоящей жизни. Каждая симуляция включала в себя более 40 проработанных городских локаций, среди которых функционировали мэрия и полицейский участок.

Условия и возможности искусственных правителей были следующими:

• Информационная свобода: Исследователи обеспечили всем агентам ИИ беспрепятственный доступ к интернету и новостным лентам в режиме реального времени.

• Человеческие навыки: Внутри каждой модели действовали по 10 автономных агентов. Они умели общаться,