Создатель ИИ назвал единственный способ избежать уничтожения людей

В модели искусственного интеллекта необходимо встраивать «материнские инстинкты», чтобы помешать ИИ навредить человеку.

Доктор Джеффри Хинтон, которого часто называют «крестным отцом» искусственного интеллекта, заявил, что для предотвращения потенциальной угрозы со стороны ИИ человечеству необходим принципиально новый подход. По его мнению, сверхразумные системы должны обладать встроенными «материнскими инстинктами».

Об этом он сказал в своем выступлении на отраслевой конференции Ai4 в Лас-Вегасе, передает Unilad.

На фоне стремительного развития технологий искусственного интеллекта все чаще звучат призывы к созданию механизмов, способных ограничить возможные риски. Хинтон убежден: по мере того как ИИ становится мощнее и превосходит человека по интеллектуальным возможностям, в него необходимо закладывать механизмы заботы и ответственности.

Он провел аналогию с материнским поведением. По словам ученого, матери инстинктивно защищают своих детей, а общество дополнительно поддерживает такую модель через социальные нормы. Подобный принцип, считает Хинтон, мог бы стать ориентиром и для разработки продвинутых ИИ-систем.

«Единственный пример, когда более умная сущность находится под контролем менее умной, — это отношения матери и ребенка. Нам нужны не просто ИИ-помощники, а своего рода ИИ-матери. Помощника можно отключить или освободить, но мать — нет», — пояснил он.

При этом исследователь признал, что пока нет четкого понимания, как реализовать такую концепцию на практике и насколько она окажется эффективной.

Ранее Хинтон оценивал вероятность того, что развитие искусственного интеллекта может привести к исчезновению человечества, примерно в 10 процентов. Теперь он считает, что этот риск может составлять от 10 до 20 процентов.