Россия и Китай могут развивать ИИ для распространения пропаганды: как этому помешать

Ученые считают, что ИИ не должен быть слишком умным и предлагают контролировать нейросети с помощью чипов. Группа исследователей из OpenAI, Стэнфордского и Джорджтаунского университетов считают, что большие языковые модели, вроде ChatGPT, могут использоваться для дезинформации в соцсетях и не только. Согласно отчету ученых, генеративные языковые модели сегодня доступны всем и каждому, а потому они опасаются, что такие инструменты, если окажутся в руках пропагандистов, рискуют стать инструментом для операций влияния в будущем, пишет vice.com.

Согласно мнению ученых, пропагандисты смогут прибегнуть к более дешевым и эффективным тактикам, благодаря ИИ-инструментам. Больше не нужно будет оплачивать работу армии троллей, ведь при помощи нейросетей можно будет генерировать убедительные тексты в больших количествах, рассылать их по соцсетям, продвигать через СМИ в Интернете. Несмотря на то, что языковые модели контролируются через API, у таких государств, как Китай и Россия хватит денег, чтобы инвестировать в собственные разработки.

Кроме постов, пропагандисты смогут задействовать и собственных чат-ботов. В своем отчете они упоминают то, как чат-бот помог повлиять на людей, чтобы они вакцинировались в разгар пандемии COVID-19. Исследователи полагают, что правительствам необходимо ввести ограничения на сбор нейросетями обучающих данных и создать инструменты контроля доступа к оборудованию ИИ, такому как полупроводники.

В пример приводят ограничения экспортного контроля, введенные США против Китая. Не имея доступа к некоторому оборудованию и технологиям, КНР не сможет создавать микросхемы последнего поколения, что значительно замедлит эту страну в ее попытках "прокачать" нейросети. Ученые предлагают ограничить доступ к будущим