The Economist: ИИ стал угрозой для социологов и опросов общественного мнения

• Итоги нового исследования вызывают тревогу в индустрии опросов.
• ИИ-модели проходят почти все проверки качества, маскируясь под реальных людей.
• Манипуляции могут изменить результаты предвыборных опросов при минимальном вмешательстве.

Социологи столкнулись с новым риском, поскольку большие языковые модели (LLM) способны выдавать себя за людей и проходить стандартные проверки качества. Это грозит подорвать достоверность данных, на которые опираются политики, университеты и компании, пишет The Economist.

Политолог Шон Вествуд из Дартмутского колледжа создал ИИ-агента, который заполняет анкеты от имени детализированных демографических профилей. Модель отвечала так, будто представляет реального человека — с конкретным возрастом, профессией, религиозностью, привычками и уровнем интереса к новостям.

В эксперименте ИИ прошел 99,8% проверок качества, отметил эксперт. Их обычно используют профессиональные исследовательские фирмы для отсева ботов и невнимательных респондентов.

Особую уязвимость создает то, что модели легко перенаправить, считают аналитики.

Простая инструкция, например, избегать негативных ответов о Китае — существенно смещала результаты. В 88% случаев ИИ выбирал Россию как основную угрозу для США, даже если профиль респондента предполагал иные предпочтения.

Такие манипуляции могут как исказить восприятие общественного мнения, так и ввести в заблуждение государственные структуры, уверены исследователи.

По расчетам, всего от 10 до 52 ИИ-респондентов способны изменить результаты национального предвыборного опроса на выборке 1600 человек. Это делает политические исследования особенно уязвимыми на фоне растущей автоматизации и все более широкого