Apple и Google придётся удалить в Калифорнии приложения, создающие людей без одежды

Власти города Сан-Франциско обязали Apple и Google удалить из своих магазинов приложений десятки сервисов с функцией создания людей без одежды. Законодательство штата Калифорния криминализует любую деятельность, которая «сознательно способствует» или «безрассудно помогает» создавать порнографию с использованием технологии дипфейк без согласия жертвы.

В прошлом году штат также принял закон, позволяющий подавать гражданские иски против третьих лиц, распространяющих подобные материалы. Власти Сан-Франциско указали, что Apple и Google продолжают размещать такие приложения и получать прибыль от них, несмотря на эти хорошо известные правила.

Обе компании получают прибыль от сервисов, которые эксплуатируют женщин и девочек, создавая интимные дипфейки без их согласия, заявил прокурор города Дэвид Чиу. Он добавил, что Apple и Google несут ответственность за то, чтобы проявлять инициативу и бдительность в предотвращении сексуального насилия. При этом прокурор отметил, что компании всё же разрывают связи с некоторыми проблемными приложениями.

Владельцы App Store и Google Play были предупреждены об их роли в «обработке платежей за незаконные покупки в течение почти года», но продолжали это делать, пояснил Чиу. 

В январе и апреле этого года организация Tech Transparency Project опубликовала отчёты и направила обеим компаниям письма, которые указывали на наличие в их магазинах приложений десятков сервисов, предоставляющих визуальные дипфейки интимного характера в обмен на платежи, обрабатываемые Apple и Google.

Из апрельского отчёта TTP следует, что Google и Apple намеренно «направляли» пользователей к таким приложениям. Две компании фигурировали в документе как ключевые участники распространения инструментов искусственного интеллекта,