Людям предстоит решить, давать ли AGI сознание: Хассабис о «втором Рубиконе»

На встрече со студентами Stanford Graduate School of Business глава Google DeepMind и нобелевский лауреат Демис Хассабис получил неожиданный вопрос: чего искусственный интеллект не должен касаться вовсе? В ответ он заговорил о сознании — и назвал его отдельным выбором человечества, "вторым Рубиконом", переходить который никто не обязан.

Логика такая. Сначала мы строим ИИ как инструмент, пусть и предельно мощный. По Хассабису, разумный инструмент такого уровня — это уже и есть AGI, и одного этого хватит как вызова на годы вперед. А вопрос о том, делать ли систему сознательной, — это совсем другой, следующий шаг. И смешивать его с первым нельзя: интеллект и сознание разделимы, сознание не возникает само собой как побочный эффект системы, способной решать даже очень сложные интеллектуальные задачи.

Чтобы объяснить, почему он их разводит, Хассабис опирается на идею машины Тьюринга — своего любимого, по его словам, понятия еще с университета. И ИИ, и человеческий разум он описывает как приблизительно полные по Тьюрингу системы: они способны вычислить почти все, что вообще вычислимо. Но из этой вычислительной всеядности сознание никак не вытекает. То есть "умный" и "сознательный" — не синонимы: первое можно получить, не получив второго. А значит, сознание — это не порог мощности, который система перешагнет сама, а осознанное решение разработчиков и общества.

Сами нынешние модели, по мнению Хассабиса, сознанием не обладают — хотя он тут же оговаривается, что некоторые коллеги по цеху с этим не согласны и единого мнения нет. Любопытное наблюдение он добавляет про чатботов: в "характере" ведущих систем уже проступают разные позиции по этому вопросу, и это не случайность, а следствие разных решений, которые принимают лаборатории при