Между свободой и запретами. Как мир пытается спасать детей от интернета

Несколько недель тому назад исследователи из университета Стэнфорда обнаружили в Instagram обширную сеть учетных записей, управляемых несовершеннолетними, рекламирующими собственноручно созданные изображения сексуального насилия над детьми. Покупатели и продавцы общались через функцию прямых сообщений в Instagram, причем делали это без каких-либо ограничений со стороны платформы. Их авторы пользовались хештегами #pedobait, #pedowhore и #preteensex. На данный момент эти хэштеги заблокированы, а при попытке просмотра их содержимого в Instagram отображается уведомление о запрете сексуального насилия над детьми.

Эта история стала демонстрацией глобальной проблемы – не только то, что платформа Instagram допустила такой контент, но и то, что система рекомендаций этой сети предлагала эти аккаунты другим пользователям. Компания Meta сообщила о создании оперативной группы, которая должна исследовать эту проблему и найти возможные другие случаи продаж такого запрещенного контента. Ведь факт существования таких профилей, особенно продаж таких фото и видео на платформе нарушает правила сообщества сервисов компании Meta. Именно поэтому не понятно не только то, как существование такого контента стало возможным, но и то, почему внутренние инструменты Meta никак не помешали ни обмену этим содержимым, ни тем более его продвижению.

Свободный доступ к социальным сетям детей и подростков давно стал проблемой и для юной аудитории, и для их родителей. Еще не сформировавшиеся личности оказываются в среде, где царят фейки, манипулятивный контент и где они могут встретить злоумышленников, пытающихся извлечь у них персональные данные или даже чувствительный контент. История с сетью профилей несовершеннолетних, продававших секс-фото – это тоже