Discord, OpenAI и Google создают группу по безопасности детей

Google, OpenAI, Roblox и Discord создали новая некоммерческая организация, призванная улучшить безопасность детей в Интернете. Инициатива Robust Open Online Safety Tools (ROOST) направлена ​​на то, чтобы сделать базовые технологии безопасности более доступными для компаний и предоставить бесплатные инструменты искусственного интеллекта с открытым исходным кодом для обнаружения, проверки и сообщения о материалах, содержащих сексуальное насилие над детьми.

По словам партнера-основателя ROOST и бывшего генерального директора Google Эрика Шмидта, инициатива была отчасти мотивирована изменениями, которые генеративный ИИ привнес в онлайн-среду, и направлена ​​на удовлетворение «критической потребности в ускорении инноваций в сфере безопасности детей в Интернете». Подробности об инструментах обнаружения CSAM скудны, за исключением того, что они будут использовать большие языковые модели ИИ и «унифицировать» существующие параметры контента.

«Начиная с платформы, ориентированной на защиту детей, совместный подход ROOST с открытым исходным кодом будет способствовать инновациям и сделает базовую инфраструктуру более прозрачной, доступной и инклюзивной с целью создания более безопасного Интернета для всех», — сказал Шмидт.

Заявление ROOST прозвучало на фоне масштабной регуляторной битвы за безопасность детей в социальных сетях и онлайн-платформах, в ходе которой компании пытаются успокоить законодателей с помощью методов саморегулирования.

Национальный центр по пропавшим и эксплуатируемым детям (NCMEC) сообщает, что количество предполагаемых случаев эксплуатации детей увеличилось на 12 процентов в период с 2022 по 2023 год. По состоянию на 2020 год более половины американских детей были пользователями Roblox, и компания неоднократно