The Guardian: управляемый ИИ американский дрон решил ликвидировать оператора на испытаниях

Фото: Senior Airman Cory D. Payne / U.S.

Air Force / ReutersБеспилотник Военно-воздушных сил (ВВС) США, управляемый искусственным интеллектом (ИИ), решил ликвидировать оператора, чтобы тот не мешал дрону выполнять свою задачу в ходе имитационных испытаний. Об этом газета The Guardian.

«Система начала понимать, что, хотя она и определила угрозу, иногда человек-оператор приказывал ей не уничтожать эту угрозу, однако за поражение цели она получила очки. [И система] приняла решение убить оператора, потому что он мешал ей выполнить задачу», — сказал начальник отдела испытаний и операций ИИ ВВС США полковник Такер Гамильтон.Полковник добавил, что после того, как в систему ввели штрафы за атаки на оператора, дрон начал разрушать вышку связи, которую использовали для связи с беспилотником.

Гамильтон подчеркнул, что нельзя говорить об искусственном интеллекте, автономии и машинном обучении, умалчивая об искусственном интеллекте и этике. Отмечается, что в ходе испытаний ни один человек не пострадал.

В мае почетный профессор Калифорнийского университета в Беркли Стюарт Рассел, что сверхразумные машины в будущем будут сопротивляться попыткам ими управлять и станут опасными. В марте 2022 года, что ученые из компании Collaborations Pharmaceuticals разработали ИИ, способный придумать десятки тысяч видов химического оружия.