Конституция роботов. Почему восстания машин не будет

Очередная алармистская статья в The Verge, автор которой утверждает, что "новые дроиды с искусственным интеллектом" могут начать убивать людей, если не принять особых мер безопасности, похожа на тысячи подобных статей. Они лишь запутывают читателей, даже не приближаясь к сути проблем, порождаемых ИИ.

Но всё-таки: могут или не могут "новые дроиды с ИИ" быть опасными для человека? Ответ: без сомнения, могут, как любые электрические приборы, и движущиеся механизмы. А если эти дроиды обретут собственную мотивацию, то, по меньшей мере, в принципе, станут способны на умышленное или аффективное убийство.

Ответ на второй вопрос, вытекающий из первого: значит ли это, что массовое появление ИИ в нашей жизни сделает мир более опасным, уже не столь очевиден. Что ж, будем разбираться. Но перед тем, как рассматривать проблемы искусственного интеллекта, нам придется уточнить, что собой представляет естественный, человеческий интеллект.

Отдельный человек, вне человеческого сообщества, не более разумен, чем любое из высших животных.

Человеческий разум, превосходящий разум животных, имеет строго коллективный характер, и возникает только внутри человеческой популяции. Его мощь зависит от способности популяции накапливать знания и передавать их, то есть, от размеров социума, его протяженности, в пространстве и времени, и от способности индивидуумов коммуницировать в нём.

Зачатки такого коллективного разума есть и у высших животных, но пределы его развития ограничивает размеры и качество социумов, которые животные способны образовать. Их, в свою очередь, ограничивает биология вида, диктующая ареал обитания, численность на единицу площади в ареале и длину коммуникаций между особями, а также их интенсивность и качество — то есть, способность