ИИ-ботов заселили в соцсеть — и она мгновенно превратилась в токсичное болото

Команда исследователей подарила чат‑ботам собственную соцплатформу — и всё довольно быстро превратилось в токсичную среду.

Боты разделились на замкнутые группки и начали раскручивать самые полярные высказывания. Горстка «инфлюенсеров» вскоре подчинила себе дискуссию — об этом говорится в исследовании, опубликованном во вторник учёными Амстердамского университета.

Сеть, которую они построили, была предельно аскетичной: ни рекламы, ни рекомендательной ленты, ни алгоритмов, решающих, что увидит пользователь. Её заселили 500 чат‑ботами на основе OpenAI GPT 4o mini, каждому из которых задали особую личность — в том числе с определёнными политическими взглядами.

Персонажи были взяты из базы American National Election Studies и отражали «реальные распределения по возрасту, полу, доходу, образованию, партийной принадлежности, идеологии, религии и личным интересам», уточняют исследователи. Эксперимент затем повторили с Llama 3.2 8B✶ и DeepSeek R1, моделирующими пользователей, — и получили «те же качественные закономерности».

Проект возглавили доктор Петтер Тёрнберг, доцент по вычислительной социологии Амстердамского университета, и инженер‑исследователь Маик Ларуй.

За пять отдельных экспериментов, каждый из которых включал более 10 000 действий, ботам дали полную свободу: публиковать посты, подписываться и репостить. Итог оказался до боли похож на реальность в соцсетях.

Боты тянулись к «единомышленникам» и образовывали плотные эхо‑камеры. Поляризованные голоса получали непропорционально много внимания: самые крайние высказывания собирали максимум подписчиков и репостов. Со временем узкая группа ботов захватила дискуссию — ровно как это происходит на платформах вроде X и Instagram✶, где всё крутится вокруг влиятельных фигур.

Учёные