Темная сторона прогресса: как сталкеры используют дипфейки для преследования и травли жертв

Запуск Sora 2 от OpenAI был хаотичным. Инструмент, превращающий текст в видео, мгновенно стал популярным для создания разнообразного контента, в том числе и провокационного. Соцсети быстро заполнились разнообразными видео разного уровня реалистичности. Некоторые из них действительно трудно отличить от реальных футажей, если бы не водяной знак, рассказывает 24 Канал со ссылкой на Futurism.

Смотрите также Google создала инструмент, который сам находит и исправляет ошибки в коде

Например, в сети появились видео с Губкой Бобом, который готовит метамфетамин, а также фейковые записи с камер наблюдения, где якобы зафиксированы преступления основателя OpenAI Сэма Альтмана. Это подняло вопрос об авторских правах и легкость создания вредных фейков.

Что касается первого, то OpenAI, похоже, нашла решение. Компания рассматривает новые модели монетизации, с возможностью распределения доходов с правообладателями за использование их образов. Также планируется добавление специальной функции автоматического обнаружения персонажей в видео.

Насколько опасен новый инструмент OpenAI?

Почти сразу после запуска Sora 2 нашлось еще одно зловещее применение – сталкинг. Журналистка Тейлор Лоренц рассказала, что ее "психотический сталкер" начал использовать инструмент для создания ИИ-видео с ней.

Кто-то прислал моему психотическому преследователю приглашение в Sora, и он уже создает обо мне видео с использованием искусственного интеллекта. Я благодарна, что Sora имеет возможность блокировать и удалять несанкционированный контент с моим изображением. Это опасный человек, который ведет сотни (да, сотни) аккаунтов, посвященных мне,
– написала Тейлор.

По ее словам, этот человек ранее уже нанимал фотографов для слежки, появлялся на мероприятиях, где она была,