Google Messages будет обновлен по адаптивному контенту

Google Сообщения начали выдавать предупреждения о деликатном контенте, содержащем изображения обнаженной натуры, после первого введение функция в конце прошлого года. Новая функция будет делать две ключевые вещи, если система на базе ИИ обнаружит сообщение, содержащее наготу: она размоет любую из этих фотографий и выдаст предупреждение, если ваш ребенок попытается открыть, отправить или переслать их. Наконец, она предоставит вам и вашему ребенку ресурсы для получения помощи. Все обнаружение происходит на устройстве, чтобы гарантировать, что изображения и данные останутся конфиденциальными.

Компания отмечает, что предупреждения о чувствительном контенте включены по умолчанию для контролируемых пользователей и зарегистрированных неконтролируемых подростков. Родители контролируют эту функцию для контролируемых пользователей через приложение Family Link, но неконтролируемые подростки в возрасте от 13 до 17 лет могут отключить ее в настройках Google Messages. Для всех остальных эта функция отключена по умолчанию.

При включении предупреждения о чувствительном содержании изображения размываются и открывается предупреждение о превышении скорости, позволяющее пользователю заблокировать отправителя, предлагая ссылку на страницу с подробностями о том, почему нагота может быть вредной. Затем программа спрашивает пользователя, хочет ли он по-прежнему открыть сообщение, предлагая варианты «Нет, не просматривать» и «Да, просматривать». При попытке отправить изображение программа предлагает аналогичные варианты. Таким образом, она не полностью блокирует отправку детьми обнаженных фотографий, а только выдает предупреждение.

Функция основана на системе SafetyCore от Google, которая позволяет классифицировать контент на устройстве с