Что по модерации? В Mastodon нашли сотни публикаций с сексуальным насилием над детьми

Интернет-обсерватория Стэндфордского университета обнаружила 112 случаев сексуального насилия (причем первый через 5 минут после начала поиска) в 325 000 публикациях на Mastodon в течение двухдневного исследования.

Исследователи просканировали 25 самых популярных экземпляров (серверов) Mastodon на наличие CSAM – материалов о сексуальном насилии над детьми или изображений, которые показывают сексуальное насилие и эксплуатацию детей. Для поиска использовали инструмент для обнаружения откровенных изображений Google SafeSearch API и инструмент, помогающий находить материалы, обозначенные как CSAM, PhotoDNA.

Команда также идентифицировала 554 фрагмента контента, которые совпадали с хештегами или ключевыми словами, часто использующимися в группах сексуального насилия над детьми в интернете, и все они были определены как откровенные с «высокой степенью достоверности» Google SafeSearch.

Выявлено еще 713 случаев использования 20 самых популярных хештегов, связанных со CSAM, в публикациях, содержащих медиа, а также 1217 текстовых публикаций, указывающих на «торговлю CSAM вне сайта или груминг несовершеннолетних».

В исследовании отмечается, что материалы с изображением сексуального насилия распространяются в сети с тревожной тенденцией.

Ранее в этом месяце на сервере mastodon.xyz произошел длительный сбой из-за опубликованного CSAM. В сообщении об инциденте администратор сервера заявил, что их известили о контенте, содержащем образы сексуального насилия – но модерацию он может приводить только в свое свободное время, что может занять несколько дней. Позже появилось заявление об удалении противоречивого контента, однако сервер все равно был недоступен для пользователей. Впоследствии администратор mastodon.xyz сказал, что регистратор