OpenAI предупредила об использовании ИИ дезинформаторами

Компания OpenAI предупредила о растущей угрозе использования технологий искусственного интеллекта в распространении дезинформации.

We're publishing a report, co-authored with @CSETGeorgetown and @stanfordio, analyzing how language models could be misused for disinformation and how to mitigate those risks. https://t.co/nHiVp7GoxI— OpenAI (@OpenAI) January 11, 2023 Стартап провел совместное исследование с Центром безопасности и новых технологий Джорджтаунского университета (CSET) и Стэнфордской интернет-обсерваторией.

По мнению ученых, широкая доступность языковых моделей повлияет на все три аспекта операций влияния:

акторы;поведения;контент.Исследователи считают, что языковые модели снизят стоимость проведения кампаний по дезинформации, сделав их доступными для более широкого круга участников. Кроме того, они способны изобретать новые тактики вроде создания контента в реальном времени в чат-ботах.

Инструменты на основе языковых моделей также помогут генерировать более убедительные тексты по сравнению с традиционными методами.

«Это особенно касается тех [агитаторов], у которых нет нужных лингвистических навыков или культурных знаний о цели. Это может сделать операции влияния менее заметными, поскольку сгенерированный контент будет не так легко распознаваем», — говорится в исследовании.

По мнению ученых, закрытость языковых моделей не поможет уберечься от дезинформации. Агитаторы, вероятно, будут тяготеть к системам с открытым исходным кодом или разработанным государством альтернативам, добавили они.

В исследовании подчеркиваются критические неизвестные факторы, связанные с использованием языковых моделей. На сегодня неясно, какие возможности для дезинформации появятся в будущем даже с учетом текущих исследований и