"Вторжение инопланетян": ученый предсказал, как и когда ИИ может уничтожить человечество

Возможно, главная опасность ИИ заключается в том, что он сам выбирает средства достижения поставленных целей, и люди пока не могут это контролировать. Инструменты с искусственным интеллектом, такие как чат-бот ChatGPT смогут предсказать инопланетное вторжение, которое грозит уничтожением человечества. К такому выводу пришел профессор Калифорнийского университета Стюарт Рассел, стоявший у истоков этой технологии, передает The Times.

Возможности ChatGPT превзошли все его ожидания — бот научился писать компьютерный код и сочинения на заданную тему, а однажды даже сдал экзамен вместо студента. Однако ученый опасается, что подобная система может стать частью сверхразумной машины, которая будет сопротивляться любым попыткам контроля со стороны людей. Стюарт Рассел считает, что один из рисков связан с тем, что перед мощным ИИ ставят цель, но он самостоятельно выбирает метод ее достижения.

Порой он может быть связан с непредвиденными побочными эффектами, разрушительными для человечества. Ученый привел пример мира, в котором перед ИИ стоит задача исправить изменение климата, и он решает, что лучший способ — избавить Землю от людей. Cтюарт Рассел также сравнил появление сверхмощного ИИ со вторжением более развитой инопланетной цивилизации.

Раньше он думал, такие системы появятся лишь через десятки лет, но теперь, глядя на Chat GPT, он сократил свой прогноз до ближайшего десятилетия, хотя это все еще маловероятно. "У нас есть европейцы, призывающие к экстренному глобальному саммиту, есть Китай, который фактически запрещает большие языковые модели. У нас есть Белый дом, который созывает всех руководителей технологической отрасли на экстренное совещание.