Ведущие чат-боты от OpenAI, Meta✶ и xAI демонстрируют навыки манипуляции

Лучшие в мире чат‑боты на базе ИИ уже демонстрируют навык, которому позавидовали бы многие политики и бизнес‑лидеры: умение убеждать.

ИИ‑модели от OpenAI, Meta✶, xAI и Alibaba способны менять политические взгляды пользователей после менее чем десятиминутного разговора, следует из нового исследования. Это лишь одна из работ, подтверждающих: большие языковые модели становятся мощнейшими инструментами влияния.

«Секрет их убедительности в том, что они генерируют огромное количество релевантных доводов и излагают их доступно и понятно», — пояснил Дэвид Рэнд, профессор Корнельского университета, участвовавший в исследовании Института безопасности ИИ Великобритании.

Ранее отдельные исследования также показали: в ряде случаев ИИ уже лучше людей справляется с задачей убеждения. Это усиливает тревогу по поводу возможного использования чат‑ботов для дезинформации и манипуляции общественным мнением.

Исследование AISI, опубликованное в прошлом месяце в коллаборации с университетами Оксфорда и МТИ, показало: достаточно легко превратить стандартные модели — такие, как Llama 3✶ от Meta✶, GPT-4, GPT-4.5, GPT-4o от OpenAI, Grok 3 от xAI и Qwen от Alibaba — в машины убеждения.

Для этого применялись популярные методы обучения ИИ, включая «поощрение за нужный результат». Чат‑боты дополнительно дообучали на корпусе из более чем 50 000 диалогов по спорным политическим вопросам — от финансирования NHS до реформы системы убежища.

Результат оказался впечатляющим: пользователи меняли мнение быстро, и эффект сохранялся надолго. После в среднем девятиминутных разговоров GPT-4o оказался на 41% убедительнее, а GPT-4.5 — на 52% убедительнее, чем статичные тексты. Более того, через месяц люди продолжали придерживаться изменённой позиции в 36–42% случаев.

ИИ‑ас