«Сделай мне фейк»: Google Veo 3 и слабая модерация — гремучая смесь для соцсетей

Все мы следим за бешеным развитием генеративного ИИ, особенно после того, как OpenAI выкатила Sora в 2024-м. Текст‑в‑видео — это уже не фантастика, а реальность, доступная всё большему числу людей. И вот Google вступает в игру со своим ответом — Veo 3, интегрированным в топовый тариф Gemini AI Ultra (250 $ в месяц). С одной стороны, технология обалденная. С другой — серьёзно задумываешься, не открыли ли мы здесь ящик Пандоры для дезинформации апокалиптических масштабов.

Это не игрушка. Модель выдает фотореалистичные короткие ролики по текстовому промпту, причем с детализацией, от которой волосы встают дыбом. Мелкие движущиеся объекты вроде шинкующегося лука? Пожалуйста. Сопровождающий, максимально естественный звук? Тоже есть. Конечно, перфекта нет — иногда выходит кривовато, артефакты проскакивают. Но! Стоит немного поколдовать с промптом и сделать несколько попыток — и вуаля, получается нечто, что с первого взгляда не отличить от реальной съемки. И это уже работает.

Veo 3 крут, но пока не умеет ключевую вещь, с которой справляется его предшественник Veo 2 и анимационный Whisk от Google: генерировать видео на основе загруженного изображения. Представьте: загружаете фото себя, коллеги или знаменитости — и получаете ролик, где человек делает или говорит что угодно по вашему желанию. Учитывая, что функционал уже есть в других инструментах Google, добавление его в Veo 3 кажется лишь вопросом времени.

Последствия? Очевидны в эпоху, когда соцсети задыхаются от сомнительного контента:

Не нравится начальник? Сгенерируйте ему «неуместное поведение» и отправьте в HR.

Хотите фейковых новостей? Вот вам «эксклюзивное» видео с пресс‑конференцией политика.

Бывший партнер достал? Пусть его «компромат» увидят все родственники.

И это лишь