На грани нирваны и гибели. Как спасти человечество от искусственного интеллекта

Искусственный интеллект может сработать во вред человеку, предупреждает в колонке для The Wall Street Journal врач Дэвид Шейвиц. Поэтому нужно придумать механизмы, гарантирующие безопасность этих технологий. В 1837 году кузнец из Гранд-Детура, штат Иллинойс, наткнулся на мельнице на сломанную стальную пилу; он взял лезвие домой — в то время стали было мало — и превратил его в плуг, который идеально подходил для плотной почвы этого региона.

Он начал массовое производство этого инструмента, и вскоре имя John Deere стало синонимом сельскохозяйственной продукции. Сегодня компания все чаще производит автономные тракторы и комбайны, беспилотные машины, которые собирают и обрабатывают данные для оптимизации урожайности. "Сельскохозяйственные роботы не просто приходят", — восторгается Мустафа Сулейман.

— "Они здесь". Г-н Сулейман знает кое-что о новых технологиях. В 2010 году вместе с Демисом Хассабисом и Шейном Леггом он основал DeepMind с нескромной целью: "решить проблему интеллекта" — то есть воспроизвести человеческое познание с помощью компьютеров — и "сделать мир лучше".

Компания DeepMind, приобретенная Google в 2014 году за разработку типа искусственного интеллекта, называемого глубоким обучением, добилась ряда потрясающих достижений. Одна из ее программ, AlphaFold, смогла предсказать трехмерную структуру белков на основе их аминокислотной последовательности, что стало научным прорывом. Неудивительно, что г-н Сулейман глубоко верит в возможности искусственного интеллекта.

Но кое-что в будущем, которое он так хорошо представляет себе после многих часов раздумий и работы над его созданием, повергло его в шок. В книге "The Coming Wave" он надеется и нас расстроить. Хорошая новость, говорит нам г-н Сулейман, заключается в