Reddit усилит проверку для предотвращения использования ботов на основе искусственного интеллекта

На прошлой неделе редакторы по всему миру были охвачены скандалом, когда узнали, что группа исследователей выпустил рой ботов на базе искусственного интеллекта, которые имитировали людей в сабреддите «Измени мое мнение». Масштабный эксперимент был разработан для изучения того, насколько убедительным может быть искусственный интеллект.

Боты опубликовали более 1,700 комментариев, выдавая себя за жертв насилия или противоречивые личности, например, сторонника кампании Lives Matter.

Для Reddit этот инцидент стал мини-кошмаром. Reddit. Бренд ассоциируется с подлинностью — местом, где реальные люди делятся реальными мнениями. Если эта ориентированная на человека экосистема будет нарушена из-за отходов искусственного интеллекта или станет местом, где люди не смогут доверять получению информации от реальных людей, это может не только поставить под угрозу основную идентичность Reddit. Прибыль Reddit также может оказаться под угрозой, поскольку в настоящее время компания продает свой контент OpenAI для образования.

Компания осудила «ненадлежащий и крайне неэтичный эксперимент» и подала жалобу на университет, который его проводил. Но этот эксперимент был лишь одним из многих случаев, когда генеративные ИИ-боты выдавали себя за людей на Reddit по разным причинам: от научных до политических манипуляций.

Чтобы защитить пользователей от манипуляций со стороны ботов и «сохранить человечность Reddit», компания тихо дала понять, что собирается предпринять меры, которые могут оказаться непопулярными среди пользователей, которые заходят на Reddit по другой причине: анонимности.

В понедельник генеральный директор Reddit Стив Хаффман объявил в посте, что Reddit начнет работать с «различными сторонними сервисами» для проверки человечности