С помощью ИИ враг может "отравить" данные в военных системах: эксперт рассказал как

Искусственный интеллект становится важнейшей частью как атакующих, так и обороняющихся войск, а кибербезопасность выходит на передний план. Специалист по кибербезопасности Джош Ласпиносо, чей стартап в свое время купили компании Raytheon и Forcepoint, выступил с докладом перед подкомитетом Сената по вооруженным силам, сообщает Defense News. Там он рассказывал о возможностях искусственного интеллекта в защите военных данных и об опасностях, которые несут вражеские нейросети.

В своем выступлении он обратил особое внимание на две основные угрозы, которые напрямую связаны с инструментами ИИ: одна — воровство данных, а вторая – "отравление" данных. Под первым аспектом эксперт имеет в виду использование нейросетей в качестве мощного помощника в написании вредоносного кода, что позволит повысить количество кибератак на американскую военную инфраструктуру. В условиях современного противостояния держав именно хакерские атаки выходят на первый план.

Впрочем, ИИ в умелых руках может помочь и противостоять таким атакам. Второй момент более интересен. "Отравление" данных подразумевает смешивание лжи и правды на основе реальной информации, которая может вбрасываться в системы обучения искусственного интеллекта.

В качестве примера Джош привел пример с чат-ботом Tay от Microsoft, который компания запустила пару лет назад еще до бума с ChatGPT. Бот был размещен в твиттере и собирал данные со всей соцсети выдавая на их основе свои собственные "сообщения". Злоумышленники и различные троллинг-группировки сговорившись стали "забрасывать" соцсеть оскорбительными и неправдивыми материалами, и в итоге чат-бот Tay стал выдавать все это в своих твитах.