Информация, остающаяся в изображениях, созданных генеративным ИИ

Метаданные

Информация, остающаяся в изображениях, созданных генеративным ИИ

Иногда считают, что изображение, созданное генеративным ИИ, безопасно, потому что оно не снято реальной камерой.

Но это слишком простое понимание.

С изображениями генеративного ИИ могут быть связаны инструмент создания, дата генерации, программа редактирования, фрагменты промпта, имя файла, связанное с информацией аккаунта, история на стороне сервиса и сведения облачного общего доступа.

Даже если на самом изображении нет персональной информации, по промпту, тексту публикации, истории генерации и повторно использованным материалам иногда можно предположить автора или содержание активности.

Если думать об анонимности, изображения генеративного ИИ проверяют так же, как обычные изображения.

В этой статье разбирается, какая информация остается в изображениях генеративного ИИ и что смотреть перед публикацией.

В изображениях генеративного ИИ тоже остается информация

Изображение генеративного ИИ не обязательно содержит GPS-данные камеры.

Но это не значит, что в нем не остается никакой информации. В файл изображения могут попасть метаданные, а на стороне сервиса могут оставаться история генерации, промпт, аккаунт, IP-адрес, платежная информация и время использования.

Информация	Где остается	Влияние на анонимность
Дата генерации	Файл, история сервиса	Связывается со временем публикации или работы
Название инструмента генерации	Метаданные, водяной знак, имя файла	Показывает используемый сервис или рабочую среду
Промпт	История сервиса, страница общего доступа	Видны интересы, цель, объект
Информация аккаунта	Сервис генерации, облако	Связывается с использованием под настоящим именем
История редактирования	Редактор изображений, облако	Видны рабочая среда или устройство

Информация остается не только внутри файла изображения, но и на стороне сервиса, использованного для генерации.

В анонимности файл и историю сервиса рассматривают отдельно.

Промпт становится признаком

В изображениях генеративного ИИ промпт является важной информацией.

В промпт могут входить место, образ человека, цель, политическая позиция, название организации, название события, внутренние обстоятельства и контекст будущей публикации. В сервисах и на страницах общего доступа, где промпт выходит наружу, он сам становится материалом для корреляции.

Информация в промпте	Что видно
Географические названия и здания	Место активности или привычные места
Название организации или школы	Принадлежность или связанные стороны
Черты человека	Связанные люди или человек, взятый за модель
Политическая позиция	Содержание активности или позиция
Внутренние обстоятельства	Сужается круг людей, которые знают это

Промпт — это текст за изображением.

Даже если кажется, что публикуется только изображение, промпт может быть виден в функции общего доступа сервиса или на экране истории.

Перед публикацией проверьте, выходит ли промпт наружу по настройкам.

У сгенерированных изображений тоже есть метаданные

В изображениях генеративного ИИ тоже могут оставаться файловые метаданные.

Это программа создания, редактор, инструмент генерации, дата и время, цветовой профиль, XMP-информация, а в некоторых случаях сведения о происхождении, связанные с генерацией ИИ.

Метаданные	На что обратить внимание
Программа создания	Видны используемый инструмент или среда редактирования
Дата генерации	Связывается со временем публикации или активности
XMP-информация	Иногда остаются история редактирования или управленческая информация
Имя файла	Может содержать промпт, название проекта, настоящее имя
Водяной знак и сведения о происхождении	Могут показывать, что это материал ИИ, и путь создания

ExifTool — один из типичных инструментов для проверки метаданных файлов изображений. Он позволяет проверять широкий круг информации, включая , GPS и XMP.

URL : https://exiftool.org/

Однако ExifTool проверяет в основном информацию на стороне файла. Он не проверяет историю, аккаунт, платежную информацию и IP-адрес, оставшиеся на стороне сервиса генерации.

Проверять и содержание изображения

Даже у изображения генеративного ИИ само содержание может стать признаком.

Например, фон, похожий на реальный регион, композиция, напоминающая конкретную работу или школу, символ группы активности, стиль, похожий на значок, использованный в прошлом.

Содержание изображения	Влияние на анонимность
Фон, похожий на реальное место	Предполагаются привычные места или место активности
Символ конкретной группы	Видны принадлежность или поддержка
Стиль, похожий на прошлый значок	Коррелирует со старым аккаунтом
Человек, похожий на автора	Предположение по лицу или общему виду
Композиция, показывающая внутренние обстоятельства	Становится информацией, известной ограниченному кругу

Даже если изображение ИИ "вымышленное", оно показывает интересы и область активности создателя.

В анонимности не судят только по тому, реальная это съемка или генерация.

Проверять способ общего доступа

При публикации изображения генеративного ИИ смотрят не только файл, но и способ общего доступа.

Публичная страница сервиса генерации, облачный общий доступ, публикация в соцсетях и отправка в чате показывают адресату разную информацию.

Способ общего доступа	Что проверить
URL общего доступа сервиса генерации	Не видны ли промпт, имя автора, аккаунт
Облачный общий доступ	Не видны ли имя владельца, область доступа, имя папки
Публикация в соцсетях	Не связывается ли с аккаунтом публикации, временем, прошлыми публикациями
Отправка в чате	Не остаются ли имя отправителя, имя файла, preview
Прикрепленный файл изображения	Не остаются ли метаданные или имя файла

Изображениями генеративного ИИ легче управлять, если сохранить файл и сделать копию для публикации.

Если вставлять URL общего доступа сервиса как есть, обязательно проверьте, что видит адресат.

Учитывать историю аккаунта сервиса генерации

В изображениях генеративного ИИ история существует и вне файла.

В сервисе генерации могут оставаться промпт, дата генерации, созданные изображения, история редактирования, аккаунт, платежи и история входов. Даже если скачать файл и удалить метаданные, это не обязательно исчезает на стороне сервиса.

Информация на стороне сервиса	Влияние на анонимность
История промптов	Видны интересы, содержание активности, объекты
Дата генерации	Связывается со временем публикации или работы
Аккаунт	Связывается с почтой настоящего имени или платежной информацией
История общего доступа	Остается, кому показывали и какой URL использовали
История редактирования	Видно, как создавалось изображение

Если использовать генеративный ИИ в анонимной активности, аккаунт сервиса генерации тоже включают в модель угроз.

Изображение, созданное с аккаунта настоящего имени и использованное в анонимном аккаунте, создает корреляцию.

Осторожность с повторно используемыми материалами

В изображениях генеративного ИИ иногда используют собственные фотографии или референсы.

Если такой материал — изображение из прошлого аккаунта, изображение в облаке с настоящим именем, фотография из дома или работы, признаки могут остаться и в итоговом изображении.

Кроме того, уже в момент передачи референса или неопубликованного материала во внешний сервис генерации этому сервису могут передаваться изображение, промпт, время использования, данные аккаунта и сведения о подключении. Для высокорисковых материалов сначала думайте не только о том, изменится ли внешний вид после генерации, но и о том, кому можно передавать их как входные данные.

Используемый материал	На что обратить внимание
Собственная фотография	Иногда остаются лицо или общий вид
Фотография из дома	Отражаются особенности фона или привычных мест
Прошлый значок	Возникает корреляция со старым аккаунтом
Рабочие материалы	Иногда смешиваются внутренняя информация или стиль
Рукописный материал	Почерк или манера становятся признаком

То, что материал обработан генеративным ИИ, не означает, что исходная информация исчезла.

Материалы, используемые на входе, тоже рассматривают как часть публикуемого. Материалы, переданные внешнему сервису, могут оставаться в истории или журналах сервиса, даже если исчезли из опубликованного изображения.

Создавать копию для публикации

Для изображений генеративного ИИ перед публикацией тоже создают копию для публикации.

Не вставляйте страницу общего доступа сервиса как есть. Сохраните только нужное изображение и проверьте имя файла, метаданные и содержание изображения. При необходимости измените размер или формат и повторно проверьте, не осталось ли лишней информации.

Этот шаг хлопотный, но в анонимной активности он важен.

Если не смешивать сервис генерации изображений, облако и сервис публикации, входов для корреляции становится меньше.

Итоги

Изображение генеративного ИИ не становится безопасным только потому, что оно не является реальной съемкой.

Файловые метаданные, инструмент генерации, дата генерации, промпт, история сервиса, информация аккаунта, URL общего доступа и имя файла влияют на анонимность.

В содержании изображения тоже могут проявляться привычные места, интересы, группа активности и корреляция с прошлыми аккаунтами.

Перед публикацией проверяют файловые метаданные, настройки общего доступа на стороне сервиса генерации, видимость промпта, содержание изображения и имя файла.

Изображения генеративного ИИ, как и обычные изображения, важно проверять отдельно по "внешнему виду", "внутренней информации" и "пути общего доступа".