У OpenAI появился новый веб-сайт, где можно проверить, является ли изображение реальным или результатом обработки искусственным интеллектом.
Распознать изображение, созданное искусственным интеллектом, с каждым днем становится все сложнее. Компания OpenAI хочет это изменить и использует Google в качестве партнера для решения этой сложнейшей задачи.
Компания OpenAI объявила о значительном обновлении в способе обработки информации о происхождении контента, что, по сути, означает, как определить, откуда взято изображение и было ли оно сгенерировано искусственным интеллектом.
Обновление состоит из трех ключевых частей: соответствие стандарту C2PA, новое партнерство с Google в области водяных знаков и общедоступный инструмент, который вы можете использовать для самостоятельной проверки изображений.
Так что же на самом деле меняется?
Начиная с 2024 года, OpenAI добавляет метаданные, называемые Content Credentials (учетными данными контента), к изображениям, созданным с помощью ее инструментов. Эти метаданные внедряются во все сгенерированные изображения и указывают на способ их создания. Компания стала генератором, соответствующим стандарту C2PA, что означает, что другие платформы могут надежно считывать и находить эту информацию при работе с контентом, сгенерированным OpenAI.
Главная новость — это партнерство с Google. OpenAI теперь добавляет водяной знак SynthID от Google DeepMind к изображениям, созданным с помощью ChatGPT и API OpenAI. В отличие от метаданных, которые могут быть удалены при создании скриншотов или повторной загрузке изображений, SynthID внедряет невидимый водяной знак непосредственно в изображение. Он разработан таким образом, чтобы сохраняться после преобразований, которые обычно могут стереть обнаружение на основе метаданных.
Обе системы работают вместе. Метаданные содержат подробную информацию об источнике изображения, а водяной знак служит резервной копией на случай, если метаданные не сохраняются.
Как проверить, создано ли изображение с помощью искусственного интеллекта?
Компания OpenAI представила предварительную версию общедоступного инструмента проверки, доступного по адресу openai.com/verify. Вы можете загрузить изображение, и инструмент проверит наличие водяных знаков Content Credentials и SynthID, чтобы определить, было ли оно сгенерировано с помощью инструментов OpenAI.
Важное замечание: если инструмент не обнаружит водяной знак или метаданные, он не сможет однозначно сказать, что изображение не создано с помощью ИИ. Это связано с тем, что водяной знак и метаданные все еще могут быть подделаны.
Кроме того, не все компании, занимающиеся генеративным ИИ, заключили партнерское соглашение с Google для включения SynthID в свои изображения. Пока SynthID или что-то подобное не будет повсеместно внедрено во все модели генеративного ИИ , ни один инструмент проверки не сможет со 100% уверенностью сказать, что изображение не было сгенерировано ИИ.
Тем не менее, это шаг в правильном направлении. Изображения, созданные с помощью ИИ, превратились в хаос и широко используются в гнусных целях. Система распознавания таких изображений абсолютно необходима, и я рад, что Google и OpenAI прокладывают путь для ее создания.