Автор: OpenAI наконец-то упрощает определение того, было ли изображение создано с помощью DALL-E 3. На этой неделе компания поделилась этой новостью, отметив, что вскоре начнет добавлять два типа водяных знаков ко всем изображениям, созданным DALL-E. 3, в соответствии со стандартами, установленными C2PA (Коалиция за происхождение и подлинность контента). Изменение уже распространяется на изображения, созданные через веб-сайт и через API, но пользователи мобильных устройств начнут получать водяные знаки с 12 февраля.
Первый из двух водяных знаков существует строго в метаданных изображения. Вы сможете проверить данные создания изображения, используя веб-сайт Content Credentials Verify, а также другие подобные веб-сайты. Вторым водяным знаком будет видимый символ CR в верхнем левом углу изображения.
Источник: OpenAI
Это хорошее изменение, которое двигает DALL-E 3 в правильном направлении, а также правильно определяет, когда что-то было сделано с использованием ИИ. Другие системы искусственного интеллекта используют аналогичные водяные знаки в метаданных, а Google внедрила собственный водяной знак, чтобы помочь идентифицировать изображения, созданные с использованием своей модели генерации изображений, которая недавно перешла на Google Bard.
На момент написания этой статьи только неподвижные изображения имели водяной знак. Видео или текст по-прежнему останутся без водяных знаков. OpenAI утверждает, что водяной знак, добавляемый в метаданные, не должен создавать каких-либо проблем с задержкой или влиять на качество генерации изображения. Однако в некоторых задачах размер изображений немного увеличивается.
Если вы слышите об этом впервые, то C2PA — это группа, состоящая из таких компаний, как Microsoft, Sony и Adobe. . Эти компании продолжают настаивать на включении водяных знаков Content Credentials, чтобы помочь определить, были ли изображения созданы с использованием систем искусственного интеллекта. Фактически, символ учетных данных контента, который OpenAI добавляет к изображениям DALL-E 3, был создан Adobe.
Хотя водяные знаки могут помочь, это не надежный способ гарантировать, что дезинформация не будет распространяться. через контент, созданный искусственным интеллектом. Метаданные по-прежнему можно опустить благодаря использованию снимков экрана, а наиболее заметные водяные знаки можно обрезать из фотографий. Однако OpenAI считает, что эти методы помогут пользователям осознать, что эти «сигналы являются ключом к повышению надежности цифровой информации» и что они приведут к меньшему злоупотреблению системами, которые они сделали доступными.
lifehacker.com
