Соцсети вскоре столкнутся с массовыми набегами ИИ-агентов, предупредили ученые

В обозримом будущем социальные сети могут начать подвергаться массовым атакам ботов с искусственным интеллектом, которые имитируют поведение людей и эксплуатируют склонность среднего человека следовать за толпой. Они смогут распространять не соответствующие действительности сведения, преследовать пользователей и оказывать влияние на политические процессы.

Подобные массовые набеги грозят стать новым оружием в информационных войнах. Боты с ИИ смогут имитировать поведение человека, избегая таким образом обнаружения и создавая иллюзию естественного онлайн-движения. Человеческий инстинкт часто подсказывает повторять за большинством, но в данном случае этот механизм будет управляться волей владельца ИИ-ботов, действующего от имени неизвестного лица, группы, политической партии, компании или государственного деятеля, предупредил норвежский профессор Йонас Кунст. Те, кто откажется присоединиться к виртуальной толпе, могут подвергнуться преследованиям со стороны тех же самых ботов с ИИ, стремящихся подавлять противоречащие их нарративу аргументы.

Исследователи не указывают точных сроков вторжения подобных роев ИИ, но предупреждают, что обнаружить их будет непросто - нельзя даже утверждать, что они уже не развернуты. Угроза массовых атак ботов с ИИ усугубляется тем, что наши цифровые экосистемы и без того ослаблены эрозией рационально-критического дискурса и отсутствием общего понимания реальности среди граждан. Примитивные боты уже формируют более половины всего веб-трафика, но они пока способны выполнять лишь базовые задачи, например, публиковать одно и то же подстрекательское сообщение - обнаруживать их просто, а для управления такими ботами нужны операторы.

ИИ-боты на основе больших языковых моделей окажутся значительно