Боевой дрон в виртуальной миссии якобы "убил" оператора, который мешал ему получать баллы

При моделировании испытательной миссии, руководивший действиями ударного дрона искусственный интеллект (ИИ) "убил" своего оператора, чтобы тот не мешал ему выполнять задание. Об этом случае сообщил глава отдела испытаний перспективных вооружений ВВС США на международном отраслевом совещании в Лондоне, пишет The Guardian.   Полковник ВВС США Такер "Синко" Гамильтон, который руководит отделом в ВВС США по испытаниям и операциям с ИИ, рассказал, что в ходе виртуальной испытательной миссии искусственный интеллект, которому было поручено уничтожение вражеской ЗРК, "убил" оператора, который мешал ему выполнять задание.   По словам Гамильтона, беспилотнику под руководством ИИ было поручено уничтожить системы противовоздушной обороны противника.

Система верно определяла цель, однако в ходе обучения периодически получала от оператора команду не проводить атаку. Поскольку ИИ "получал баллы" именно за уничтожение цели, управляющий алгоритм принял решение сначала уничтожить оператора, который ему якобы "мешал". После того как в систему ввели запрет на "убийство" оператора, управляющий дроном алгоритм нашел другую возможность – он начал уничтожать ретрансляторы, которые передавали ему команды оператора. В выступлении Гамильтон сделал вывод, что при создании подобных систем необходимо вводить в них этические ограничения.

"Вы не можете говорить об искусственном интеллекте, интеллекте вообще, машинном обучении и автономии (принятия решений. – Ред), если вы игнорируете вопрос об этике для ИИ", – сказал он.Издание цитирует выступление полковника по его изложению в блоге, однако заявляет, что не может подтвердить реальность описанной ситуации в официальных источниках. В ВВС США отрицалют, что такая симуляция проводилась, и предположили,