NYT: ИИ может уничтожить человечество при доступе к жизненно важной инфраструктуре

Искусственный интеллект может уничтожить человечество, если получит доступ к жизненно важной инфраструктуре. Статья соответствующего содержания появилась на страницах The New York Times. Как рассказал в интервью изданию профессор Йошуа Бенжио из Монреальского университета, современные системы не несут экзистенциальной угрозы, однако никто не знает, что произойдет в ближайшие годы, поскольку в вопросе использования ИИ слишком много неопределенности.

Кажется, люди не осознают того, что могут оказаться на грани глобальной катастрофы. Авторы материала на страницах NYT напомнили, что компании все чаще задумываются о предоставлении системам с искусственным интеллектом автономии. Это означает, что они могут быть подключены к жизненно важной инфраструктуре, к которой относятся фондовые рынки, электрические сети в вооружение.

Если данная черта будет перейдена, мир окажется на грани катастрофы. «В какой-то момент окажется, что гигантская машина, осуществляющая контроль над обществом и экономикой, не находится больше под контролем человека и не может быть отключена, как не может быть отключен S&P 500», — заявил космолог Энтони Агирре из Калифорнийского университета. По словам ученого, ИИ-системы обучаются на количестве данных, которое больше, чем могут осознать их создатели.