Один ИИ против целого НИИ: DeepMind объяснила, где начинается сверхинтеллект

Google DeepMind опубликовала доклад "From AGI to ASI" о том, как искусственный интеллект будет развиваться после достижения человеческого уровня. Среди авторов — сооснователь DeepMind Шейн Легг, которому приписывают сам термин AGI, и Маркус Хаттер, создатель математической теории универсального интеллекта. Это первая работа крупной лаборатории, целиком посвященная не вопросу "когда появится AGI", а тому, что будет после.

Главное в репорте — планка. AGI авторы определяют как систему уровня медианного человека на большинстве когнитивных задач. А вот сверхинтеллект (ASI) должен превосходить не отдельного гения, а десятки тысяч скоординированных экспертов, которые работают над одной задачей десять лет. По масштабу это целое научное направление или крупная корпорация. Есть и хитрая оговорка: эксперты берутся с технологиями уровня 2010 года — иначе планка сдвигалась бы вечно, ведь люди с доступом к мощному ИИ сами становятся способнее.

От AGI к ASI авторы видят четыре пути, которые могут работать параллельно:

дальнейшее масштабирование вычислений, моделей и данных;

смена парадигмы — принципиально новые архитектуры вместо трансформеров;

рекурсивное самоулучшение, когда ИИ ускоряет разработку следующих версий ИИ;

коллективы из множества ИИ-агентов, чей суммарный интеллект превышает возможности каждого по отдельности.

При этом гарантий никто не дает. Для каждого пути в докладе перечислены узкие места: исчерпание качественных данных для обучения, слишком быстрый рост потребления энергии, недостаток финансирования, удорожание самих исследований по мере того, как "низко висящие плоды" сорваны, и возможное сознательное замедление со стороны регуляторов. Станут ли эти факторы непреодолимой стеной или лишь притормозят прогресс — открытый