Экономист счел приемлемым 33% шанс вымирания от ИИ. Теперь он работает на Anthropic

Anthropic нанимает Чеда Джонса — одного из самых известных в мире специалистов по экономике роста, профессора Стэнфорда. С 30 июня он уходит из университета в отпуск и присоединяется к Anthropic Institute, внутреннему исследовательскому центру компании. На деталь, которая делает этот найм пикантным, обратила внимание Financial Times: по расчетам самого Джонса, человечеству может быть выгодно сознательно пойти на риск собственного вымирания ради ускорения прогресса.

Речь о его статье 2023 года The AI Dilemma: Growth versus Existential Risk. В ней Джонс строит модель, где сверхмощный ИИ одновременно резко ускоряет рост и создает риск гибели цивилизации, и считает, при каком соотношении ставка оправдана. Если заложить вероятность катастрофы 1% в год на протяжении 40 лет, шанс пережить такую "ИИ-революцию" составляет около 67% (математически это exp(−0.01 × 40)). Иными словами, при определенном наборе допущений получается, что оптимально принять шанс примерно 1 к 3 на конец человечества — в обмен на 2/3 вероятности поднять уровень жизни в 55 раз.

Важно, что 33% — это не прогноз Джонса и не его личный призыв сыграть в рулетку с цивилизацией. Это вход в модель: он подставляет 1% в год как иллюстрацию и показывает, при какой цене формальная "оптимизация благосостояния" перестает спасать человечество. Причем результат держится на конкретном допущении — логарифмической функции полезности; стоит изменить предпосылки о том, как мы ценим само существование, и вывод разворачивается в сторону куда большей осторожности. Сам Джонс — скорее ИИ-оптимист, и число у него описывает не размер угрозы, а порог, за которым холодная математика начинает звучать чудовищно.

Anthropic Institute, куда идет ученый, компания запустила в марте 2026 года под