«Крестный отец AI» определил вероятность уничтожения человечества от технологии в ближайшие 30 лет

Британско-канадский учёный в области компьютерных наук, часто называемый «крестным отцом» искусственного интеллекта, увеличил вероятность того, что AI уничтожит человечество в ближайшие три десятилетия, отметив, что развитие технологий идет «значительно быстрее», чем ожидалось».

Профессор Джеффри Хинтон, удостоенный в этом году Нобелевской премии по физике за достижения в области искусственного интеллекта, оценил вероятность того, что AI может привести к вымиранию человечества в течение следующего тридцатилетия, как «от 10% до 20%».

Ранее Хинтон предполагал 10-процентную вероятность катастрофических последствий от AI для человечества. На вопрос в программе «Today» на BBC Radio 4 о том, изменился ли его прогноз относительно апокалипсиса, вызванного AI, Хинтон ответил: «Не совсем, от 10% до 20%».

«Во всяком случае. Мы никогда раньше не сталкивались с чем-то более разумным, чем мы сами». Он добавил: «Сколько примеров вы знаете, когда менее разумное существо управляет более разумным? Таких примеров немного. Например, мать и ребёнок. Эволюция сделала так, чтобы ребёнок управлял матерью, но это, пожалуй, единственный известный мне пример».

Уроженец Лондона Хинтон, почётный профессор Университета Торонто, сравнил людей с малышами по сравнению с очень мощными системами AI.

«Мне нравится думать об этом так: представьте себя и трёхлетнего ребёнка. Мы будем трёхлетними детьми», — сказал он.

В прошлом году Хинтон уволился из Google, чтобы более открыто обсуждать риски, связанные с неограниченным развитием AI, опасаясь, что «злоумышленники» могут использовать эту технологию во вред. Основная проблема заключается в том, что создание AGI, которое может стать умнее людей, будет экзистенциальной угрозой, ускользнув из-под контроля.

Размышляя о