Открытая ИИ наконец-то делает проще определить, было ли изображение создано с помощью DALL-E 3. Компания поделилась этой новостью на этой неделе, отметив, что в скором времени начнет добавлять два типа водяных знаков ко всем изображениям, созданным с помощью DALL-E 3, соблюдая стандарты, установленные C2PA (Коалиция за подлинность и происхождение контента). Это изменение уже внедряется в изображения, созданные через веб-сайт и через API, но пользователи мобильных устройств начнут получать водяные знаки с 12 февраля.
Первый из двух водяных знаков находится строго в метаданных изображения. Вы сможете проверить дату создания изображения с помощью веб-сайта Content Credentials Verify, а также других подобных сайтов. Второй водяной знак будет видимым символом CR в верхнем левом углу изображения.
Кредит: Открытый ИИ
Это хорошее изменение, которое движется в правильном направлении для DALL-E 3 и правильно определяет, когда что-то было создано с помощью искусственного интеллекта. Другие системы искусственного интеллекта используют подобные водяные знаки в метаданных, а Google внедрил свой собственный водяной знак, чтобы помочь идентифицировать изображения, созданные с помощью своей модели генерации изображений, которая недавно перешла на Google Bard.
На момент написания этой статьи только статичные изображения будут иметь водяной знак. Видео или текст останутся без водяных знаков. OpenAI утверждает, что добавление водяного знака в метаданные не должно вызывать задержек или влиять на качество генерации изображений. Однако, это немного увеличит размер изображений в некоторых задачах.
Если это первый раз, когда вы об этом слышите, C2PA — это группа, состоящая из компаний, таких как Microsoft, Sony и Adobe. Эти компании продолжают настаивать на включении водяных знаков для идентификации контента, созданного с помощью систем искусственного интеллекта. Фактически, символ Content Credentials, который OpenAI добавляет к изображениям DALL-E 3, был создан компанией Adobe.
Водяные знаки могут помочь, но это не гарантирует, что дезинформация не распространяется через контент, созданный искусственным интеллектом. Метаданные все еще могут быть опущены благодаря использованию скриншотов, а большинство видимых водяных знаков могут быть обрезаны из фотографий. Однако OpenAI считает, что эти методы помогут побудить пользователей распознавать, что эти «сигналы являются ключевыми для повышения достоверности цифровой информации» и что они приведут к меньшему злоупотреблению системами, которые она предоставила.
