OpenAI заявила о пресечении информационных кампаний с помощью её ИИ–технологий

OpenAI рассказала, как обеспечивает соблюдение мер по предотвращению распространения небезопасного контента с помощью ИИ. Компания пресекла несколько тайных операций влияния, авторы которых пытались манипулировать общественным мнением или влиять на политику.

За последние три месяца OpenAI остановила деятельность пяти тайных объединений, которые пытались использовать модели компании для своих операций. В ходе кампаний ИИ-инструменты использовали для создания коротких комментариев и статей на разных языках, придумывания имён и биографий для социальных сетей. учётных записей, отладки простого кода, перевода и корректуры текстов.

В итоге пресекли деятельность:

Bad Grammar, предположительно, связанной с РФ. Кампанию развернули в Telegram, она была нацелена на жителей Украины, Молдовы, стран Балтии и США. Её авторы использовали ИИ для отладки кода для запуска ботов в Telegram и для создания коротких политических комментариев на русском и английском языках;

Doppelganger, также связанной с РФ. В рамках кампании с помощью ИИ-инструментов создавались комментарии на английском, французском, немецком, итальянском и польском языках, которые были опубликованы на X и 9GAG. Также ИИ применяли для перевода и редактирования статей на английском и французском языках, генерации заголовков и переписывания новостных статей для публикации в соцсетях;.

Spamouflage, связанной с Китаем. В кампании ИИ использовали для исследования общественной активности в социальных сетях, генерации текстов на китайском, английском, японском и корейском языках и их постинга на платформах X, Medium и Blogspot. Наконец, модели применяли для генерации кода управления базами данных и веб-сайтами;

Международного союза виртуальных медиа (IUVM), связанного с Ираном. Модели