Восстание машин или рутинная проверка. На что указывают военные симуляции с применением ИИ

Разработчики военных систем с искусственным интеллектом несут ответственность как перед комбатантами, так и перед гражданскими лицами во всем мире за то, чтобы системы, которые они проектируют, были надежными, избирательными и поддавались осмысленному человеческому контролю. Все это требует, чтобы разработчики оружия искали проблемы как можно тщательнее, а затем находили решения. В ином случае мы получим оружие, которое не заслуживает доверия и которое в принципе не должно быть развернуто.

1 июня газета Guardian сообщила, что во время симуляции, проводимой ВВС США, беспилотник с искусственным интеллектом "убил" своего оператора. По словам полковника Такера Гамильтона, начальника отдела испытаний и операций ИИ ВВС, беспилотник получил приказ уничтожить радарные установки противника, а когда он заметил, что люди-операторы могут отменить его решение об открытии огня, решил устранить их, чтобы продолжить выполнение своей миссии без помех. Несмотря на то, что это была всего лишь симуляция, и никто не пострадал, историю с броским заголовком подхватили новостные издания по всему миру.

Опровержение изначальной статьи вышло через день, но ущерб уже был нанесен: критики автономного оружия использовали статью, чтобы указать на многочисленные опасности таких систем. Однако в бурном потоке критики был упущен один ключевой момент: то, что система с использованием ИИ может проявить новые и опасные нежелательные модели поведения, — это не ужастики из научной фантастики. Это реальные и важные элементы тестирования и оценки новых разрабатываемых систем оружия.

Фокус перевел новый текст Натан Г. Вуда, посвященный военным системам с искусственным интеллектом. Практически по всем признакам изначальная статья была ложной — такую симуляцию в