Google создал инструмент SynthID — вшитый водяной знак против ИИ-сгенерированных изображений

Команда Google DeepMind создала инструмент SynthID, предназначенный помечать неудаляемым водяным знаком сгенерированные искусственным интеллектом изображения.

Помогаем

Сбор на пикап для подразделения 3-й ОШБр, выполняющей задачи на Бахмутском направлении

SynthID сначала будет доступен только для пользователей генератора изображений с искусственным интеллектом Imagen от Google, который размещен на платформе машинного обучения Google Cloud Vertex. Пользователям при создании изображения будет предоставлена возможность выбрать, добавлять водяной знак или отказаться от него.

Это может стать помощью в борьбе с дипфейками, которые получили особое распространение в прошлом году, с ростом популярности генеративного искусственного интеллекта, передает MIT Technology Review. Водяной знак — это техника, с помощью которой можно вшить определенный сигнал во фрагмент текста или изображения, что будет идентифицировать его как сгенерированное. Это поможет, в том числе защитить авторское право.

На ежегодной конференции Google I/O в мае Сундар Пичай заявил, что компания изначально строит свои модели с учетом возможности интеграции водяных знаков. Google через DeepMind стала первой крупной технологической компанией, которая публично запустила такой инструмент.

Традиционно на изображения наносили водяные знаки, добавляя на них видимый символ или внося информацию в метаданные. Но этот метод является «хрупким», водяной знак может быть потерян при обрезке, изменении размера или редактировании изображений, говорит Пушмит Коли, вице-президент по исследованиям Google DeepMind.

SynthID создается с помощью двух нейронных сетей. Одна из них берет оригинальное изображение и создает другое, почти идентичное ему, но с несколько измененными пикселями.