Новая модель изображений ChatGPT значительно упрощает подделку документов

Новейшая модель изображений OpenAI позволяет создавать убедительные поддельные документы за считанные секунды, потенциально подавляя существующие системы безопасности, предоставляя любому человеку доступ к сложным инструментам подделки.

Пользователь X «God of Prompt» поделился несколькими примерами, демонстрирующими возможности модели, показав, как GPT-4o может генерировать обманчиво реалистичные фотографии отмененных рейсов, банковских переводов, университетских дипломов или медицинских рецептов.

Хотя подделка документов всегда была возможна с использованием традиционного программного обеспечения для редактирования изображений, автоматизация AI кардинально меняет ситуацию. Вместо того, чтобы тратить часы на экспертную работу, теперь любой может создать убедительные поддельные документы за считанные секунды.

Потенциальный объем подделок, созданных AI, может перегрузить существующие системы проверки. Это становится особенно тревожным в ситуациях, когда организации выполняют только поверхностные проверки, такие как небольшие претензии на компенсацию, истории арендных платежей или первоначальные проверки заявлений о приеме на работу.

Текущие механизмы контроля в компаниях и государственных учреждениях могут дать сбой из-за огромного количества потенциальных подделок. Даже при постоянных показателях обнаружения, возросшее количество поддельных документов повышает вероятность того, что некоторые из них избегут обнаружения.

OpenAI встроил несколько функций безопасности для предотвращения несанкционированного использования. Каждое изображение, созданное GPT-4o, поставляется со специальными метаданными C2PA, которые отмечают его как сгенерированное AI. Загвоздка в том, что любой, кто проверяет эти изображения, должен использовать