OpenAI создала дипфейк-детектор, который распознает сгенерированные DALL-E 3 изображения с точностью 98%

Компания-разработчик ChatGPT и DALL-E создала инструмент для распознавания изображений, которые сгенерировал искусственный интеллект.

Сейчас классификатор работает только с результатами, созданными собственным генератором изображений OpenAI DALL-E 3 — но с высокой точностью.

Во время внутренних тестирований инструмент правильно идентифицировал «искусственные» изображения в 98% случаев. Сообщается, что классификатор также может определять типовые модификации с минимальным воздействием, такие как сжатие, кадрирование и изменения насыщенности.

С сегодняшнего дня OpenAI принимает заявки на доступ к классификатору для первой группы тестировщиков, включая исследовательские лаборатории и научно-ориентированные журналистские некоммерческие организации, в рамках Программы доступа для исследователей.

Также OpenAI планирует добавлять водяные знаки для обозначения цифрового контента (фото или аудио), которые «невозможно удалить», и присоединится к профильной отраслевой группе C2PA, в которую уже входят Google, Microsoft и Adobe.

На фоне выборов в США и в мире в целом злоупотребление инструментами искусственного интеллекта растет — только в апреле, например, фейковые видео двух болливудских актеров, критикующих премьер-министра Нарендру Моди, стали вирусными в сети.