"Может стать умнее людей всего за пять лет": чего боятся специалисты по ИИ

Архитекторы искусственного интеллекта предупреждают, что он сможет превзойти людей практически в любой задаче. Более 350 исследователей и инженеров недавно выступили с предупреждением о том, что ИИ представляет опасность, сравнимую с рисками "пандемий и ядерной войны". Ученые опасаются, что искусственный интеллект станет настолько сверхразумным и мощным, что станет автономным и вызовет массовые социальные потрясения или даже уничтожение человечества, сообщает The Week.

В опросе экспертов, проведенном в 2022 году, средняя вероятность того, что искусственный интеллект вызовет вымирание или "серьезное лишение человеческого вида", составила 1 к 10. "Это не научная фантастика", — сказал Джеффри Хинтон, которого часто называют "крестным отцом ИИ", который недавно покинул Google, чтобы предупредить о рисках, связанных с ИИ. "Многие умные люди должны приложить много усилий, чтобы выяснить, как мы справимся с возможностью того, что ИИ возьмет верх".

Хинтон раньше думал, что опасность минует не менее, чем через 30 лет, но говорит, что ИИ развивается в сверхразум так быстро, что может стать умнее людей всего за пять лет. ChatGPT на базе искусственного интеллекта и чат-бот Bing уже могут сдать экзамены на получение лицензии на адвоката и медицинскую лицензию, включая разделы эссе, а в тестах IQ набрать 99% — уровень гениальности. Хинтон и другие предсказатели беды опасаются того момента, когда "искусственный общий интеллект" или ОИИ сможет превзойти людей практически в любой задаче.