На учениях в США беспилотник, управляемый искусственным интеллектом, «убил» своего оператора

В угрозах, которые развитие искусственного интеллекта несет человечеству, смогли убедиться военные США. 

Миссия беспилотника, управляемого искусственным интеллектом, была проста — уничтожить системы ПВО противника. Но в последней симуляции, система  решила самостоятельно добавить еще одну цель — «убить любого, кто попытается помешать ей выполнить миссию».

После этого, по словам военных, “система управления начала заниматься своими делами, не обращая внимания на оператора”. В результате, когда оператор попытался изменить цель, система его “убила”, пока виртуально. 

Официальный комментарий армии заключался в том, что слова офицера вырваны из контекста и искусственный интеллект в военных целях используется этично.

Газета The Times недавно публиковала интервью с ученым Джеком Расселом, который предупредил, что внедрение искусственного интеллекта может стать со временем “вторжением инопланетян”.  К примеру, искусственный индллект может решить, что лучший способ восстановления климата - убрать людей с планеты. 

Сверхразумные машины будут противиться попыткам их контролировать, при этом они будут владеть всеми человеческими навыками и даже больше.