Ученый DeepMind: ИИ никогда не станет сознательным

Старший научный сотрудник Google DeepMind Александр Лернер, проработавший в лаборатории с 2012 года, опубликовал препринт The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness, в котором утверждает: большие языковые модели в принципе не способны обладать сознанием. Никакое наращивание параметров, вычислительной мощности или архитектурных ухищрений не приведёт LLM к субъективному опыту — ни через 10 лет, ни через 100.

Аргумент Лернера направлен против следующего допущения: если построить достаточно сложную систему, которая ведет себя как сознательное существо, она и будет сознательной — независимо от того, из чего она сделана. Эта позиция называется вычислительным функционализмом, и именно из нее растет идея, что трансформер однажды "проснется", если его как следует прокачать. Лернер называет такой ход мысли ошибкой и вводит для нее термин Abstraction Fallacy — "ошибка абстракции".

Главный фокус — что вообще такое "вычисление". В GPU физически происходит только одно: электроны бегают по транзисторам, напряжения скачут, выделяется тепло. Никаких "единиц", "нулей" и "токенов" в самом железе нет. Они появляются ровно в тот момент, когда снаружи приходит человек и договаривается: вот этот диапазон напряжений я буду считать единицей, а вот эту последовательность состояний назову операцией сложения. Лернер называет такого человека картографом (mapmaker). Без него GPU — просто кусок горячего кремния, подчиняющийся законам физики, как водопад или костер. "Вычисление" существует только в голове наблюдателя.

Отсюда — главный вывод. Если символьное вычисление в LLM это всего лишь наша интерпретация электрических процессов, то модель не вычисляет ничего сама по себе. Она вычисляет только для нас, смотрящих со