«Свитер-невидимка»: ученые разработали одежду, которая поможет спрятаться от ИИ-систем распознавания

Группа исследователей из Мэрилендского университета в Колледж-Парке, работающая с искусственным интеллектом Facebook, разработала «свитер-невидимку», который может скрыть человека от систем обнаружения.

Изначально команда сосредоточилась на моделировании атак: создании «состязательного шаблона» Состязательная атака (adversarial attack) - способ обмануть нейросеть, чтобы она выдала некорректный результат, который можно было бы применить к обнаруженным объектам на изображении, а нейросеть не смогла бы их распознать. Исследователи попытались создать универсальный противоборствующий патч — единый шаблон, который можно применить на любом объекте и скрыть его от системы ИИ.

Предыдущие попытки состязательных атак на нейросети преимущественно были сосредоточены на классификаторах (присваивают целостную метку всему изображению), но на этот раз исследователи взялись за детекторы (локализуют объекты на изображении).

«Детекторы работают, рассматривая тысячи предыдущих изображений с разными местоположениями, размерами и соотношениями сторон объекта. Чтобы обмануть детектор объектов, состязательный шаблон должен изменить и все предыдущие изображения, что намного сложнее, чем обмануть единственный вывод классификатора», — говорится в исследовании.

Исследователи доказали, что сложнее — не значит невозможно. В рамках широкого исследования состязательных атак на детекторы команде удалось создать необходимый патч. Команда напечатала 10 шаблонов на плакатах и ​​разместила их в 15 местах — все они снизили производительность детекторов в изображениях.

This sweater developed by the University of Maryland is an invisibility cloak