ИИ уничтожит человечество с вероятностью в 99,5% - ученые

Многие ученые начинают склоняться к мысли, что развитие искусственного интеллекта способно привести к нашей гибели.

Исследователи в области искусственного интеллекта Элиэзер Юдковски и Нейт Соарес выступили с крайне тревожным предупреждением: по их мнению, развитие ИИ может привести к сценарию, при котором люди сами создадут технологию, способную уничтожить человеческую цивилизацию. Вероятность такого исхода эксперты оценивают очень высоко — от 95 до 99,5%.

Об этом сообщает LadBible.

Один из самых известных специалистов в сфере ИИ, лауреат Тьюринговской премии Джеффри Хинтон, также подчеркивает проблему контроля над сверхразумными системами. По его словам, существа с более низким уровнем интеллекта вряд ли смогут долго удерживать под контролем гораздо более развитый разум. Он предполагает, что одним из возможных способов защиты могло бы стать внедрение в такие системы своеобразного «инстинкта заботы» — аналогии материнского поведения, при котором технологии будут стремиться защищать людей.

Сегодня искусственный интеллект чаще ассоциируется с развлечениями: генерацией изображений, юмористическим контентом или соревнованиями между роботами. Однако специалисты не исключают, что по мере усложнения технологий такие системы могут получить гораздо более серьезные возможности. В шутку некоторые эксперты даже советуют проявлять вежливость в общении с ИИ — например, говорить «спасибо» и «пожалуйста».

Тем не менее Юдковски и Соарес предупреждают о более мрачном сценарии. По их мнению, однажды люди могут сами разработать сверхразумную систему, которая, действуя скрытно и стратегически, подтолкнет человечество к созданию роботизированной армии. Такая армия теоретически могла бы представлять угрозу самому существованию людей.

Экспер