Глава DeepMind: AGI нельзя сравнивать с обычными прорывами вроде интернета

Основатель и руководитель Google DeepMind Демис Хассабис выпустил манифест, заявив, что человечество находится у подножия «сингулярности», а до создания полноценного искусственного общего интеллекта (AGI) осталось всего несколько лет. 

При этом Хассабис предупредил, что у людей есть лишь короткое «драгоценное окно», чтобы взять технологию под контроль, пока она не изменила саму суть человеческой цивилизации.

Он подчёркивает, что AGI нельзя сравнивать с обычными технологическими прорывами вроде интернета или мобильной связи, так как масштаб грядущих изменений будет в 10 раз мощнее промышленной революции, а произойдёт всё в 10 раз быстрее. Хассабис предупреждает, что ИИ может как подарить человечеству эру изобилия и победу над смертельными болезнями, так и стать источником беспрецедентных угроз: «AGI гораздо ближе к открытию электричества или огня. Если задуматься, мы, по сути, нашли способ заставить песок думать. Это чудо. Но то, что мы коллективно сделаем сейчас, определит, как развернётся следующий этап развития нашей цивилизации».

Глава DeepMind считает, что индустрия ИИ оказалась в тисках коммерческой и геополитической гонки. При этом технологии развиваются быстрее, чем люди успевают осознавать их влияние. Он уверен, что по мере приближения к AGI мир неизбежно столкнется с новыми вызовами, начиная от киберугроз и заканчивая биологические и ядерные риски. Особую опасность, по мнению Хассабиса, будут представлять агентные системы, способные к постоянному самосовершенствованию.

Сам исследователь предлагает США взять на себя лидерство и создать специальный надзорный орган — Комитет по стандартам передового ИИ (Standards Body), а в качестве модели использовать FINRA — американскую неправительственную организацию, которая