70 стран под прицелом – как фальшивые граждане разрушают демократию

Технологии «роев ИИ» позволяют имитировать поведение реальных людей с такой точностью, что фильтры соцсетей перестают их замечать.

Технологии искусственного интеллекта вышли за рамки простых чат-ботов, превратившись в мощный инструмент политического влияния. Новое исследование предупреждает о появлении так называемых «роев ИИ» — автономных систем, способных массово имитировать реальных пользователей и искусственно формировать общественное мнение, подрывая основы демократии.

Об этом сообщает издание inbox.eu.

Атака цифровых двойников

Ученые проанализировали использование больших языковых моделей и автономных агентов для манипуляции массовым сознанием. Главную опасность представляют скоординированные группы ИИ-ботов, которые проникают в онлайн-сообщества и создают иллюзию широкого консенсуса по спорным вопросам. Эти «цифровые граждане» ведут себя настолько естественно, что отличить их от живых людей в социальных сетях становится практически невозможно.

Статистика подтверждает масштаб угрозы: если в 2017 году организованные манипуляции в соцсетях фиксировались в 28 странах, то сегодня их число выросло до 70. Методы становятся всё более изощренными, а их эффективность уже была доказана в ходе недавних избирательных кампаний в ряде государств.

Автономия и скрытое проникновение

В отличие от примитивных ботов прошлого, современные системы ИИ способны действовать автономно. Они сами координируют свои действия, выбирают наиболее уязвимые сообщества и планомерно внедряют в них нужные нарративы. Это позволяет манипуляторам не просто распространять дезинформацию, а буквально переписывать социальную повестку изнутри.

Проблема регулирования таких систем упирается в юридические и этические тупики. Правоведы до сих пор ведут дискуссии