Informations laissées dans les images générées par IA

On pense parfois qu'une image créée par IA générative est sûre parce qu'elle n'a pas été prise avec un vrai appareil photo.

Mais cette idée est trop simple.

Les images générées par IA peuvent aussi être liées à l'outil de création, la date de génération, le logiciel d'édition, des fragments de prompt, un nom de fichier relié à des informations de compte, l'historique côté service et les informations de partage cloud.

Même si l'image elle-même ne contient pas d'information personnelle visible, le prompt, le texte de publication, l'historique de génération ou les matériaux réutilisés peuvent permettre de déduire l'auteur ou le contenu de l'activité.

Si l'on pense à l'anonymat, une image générée par IA doit être vérifiée comme une image ordinaire.

Cet article organise les informations qui peuvent rester dans une image générée par IA et les points à regarder avant publication.

Même une image générée par IA laisse des informations

Une image générée par IA ne contient pas forcément des informations GPS de caméra.

Mais cela ne veut pas dire qu'aucune information ne reste. Le fichier image peut contenir des métadonnées, et le service peut conserver historique de génération, prompts, compte, adresse IP, paiement et heure d'utilisation.

Les informations ne restent pas seulement dans le fichier image, mais aussi côté service de génération.

Pour l'anonymat, distinguez le fichier et l'historique du service.

Le prompt devient un indice

Dans une image générée par IA, le prompt est une information importante.

Le prompt peut contenir un lieu, un portrait de personne, un objectif, une revendication politique, un nom d'organisation, un nom d'événement, des circonstances internes ou le contexte de publication prévu. Sur les services ou pages partagées où le prompt sort, il devient lui-même un matériau de corrélation.

Le prompt est le texte derrière l'image.

Même si l'on croit ne publier que l'image, le prompt peut être visible dans les fonctions de partage ou l'écran d'historique du service.

Avant publication, vérifiez si le prompt sort à l'extérieur.

Les images générées ont aussi des métadonnées

Les images générées par IA peuvent aussi conserver des métadonnées de fichier.

Logiciel de création, logiciel d'édition, outil de génération, date et heure, profil couleur, informations XMP, et parfois informations de provenance liées à la génération IA.

ExifTool est un outil représentatif pour vérifier les métadonnées de fichiers image. Il permet de vérifier de nombreuses informations comme EXIF, GPS et XMP.

URL : https://exiftool.org/

Cependant, ExifTool vérifie surtout les informations côté fichier. Il ne permet pas de voir l'historique, le compte, les paiements ou l'adresse IP conservés côté service de génération.

Vérifier aussi le contenu de l'image

Même une image générée par IA peut contenir des indices par son contenu.

Par exemple, un arrière-plan ressemblant à une région réelle, une composition évoquant un lieu de travail ou une école précise, un symbole d'organisation d'activité, un style proche d'une ancienne icône utilisée.

Même « fictive », une image IA montre les intérêts et le périmètre d'activité de la personne qui l'a créée.

Pour l'anonymat, ne jugez pas seulement selon le fait que l'image est réelle ou générée.

Vérifier la méthode de partage

Quand vous partagez une image générée par IA, regardez non seulement le fichier, mais aussi la méthode de partage.

Une page publique du service de génération, un partage cloud, une publication SNS ou un envoi par chat ne montrent pas les mêmes informations à l'autre partie.

Pour une image générée par IA, il est plus facile de gérer en enregistrant le fichier puis en créant une copie de publication.

Si vous collez directement l'URL de partage du service, vérifiez toujours ce que l'autre partie peut voir.

Penser à l'historique du compte du service de génération

Pour une image générée par IA, il existe aussi un historique extérieur au fichier.

Le service de génération peut conserver prompts, dates de génération, images créées, historique d'édition, compte, paiement et historique de connexion. Même si vous téléchargez le fichier et supprimez les métadonnées, cela ne disparaît pas forcément côté service.

Si vous utilisez l'IA générative pour une activité anonyme, mettez aussi le compte du service de génération dans le modèle de menace.

Utiliser sur un compte anonyme une image créée avec un compte sous identité réelle crée une corrélation.

Attention aussi aux matériaux réutilisés

Il arrive d'utiliser une photo personnelle ou une image de référence pour générer une image IA.

Si ce matériau est une image utilisée sur un ancien compte, une image dans un cloud sous identité réelle, ou une photo prise au domicile ou au travail, des traits peuvent rester dans l'image générée.

En outre, au moment où vous envoyez une image de référence ou un matériau non publié vers un service externe de génération d'images, l'image, le prompt, l'heure d'utilisation, les informations de compte et les informations de connexion peuvent être transmis à ce service. Pour les matériaux à haut risque, il faut se demander avant tout à qui il est acceptable de les fournir comme entrée, et pas seulement si l'apparence change après génération.

Le fait de traiter avec l'IA générative ne garantit pas que les informations d'origine disparaissent.

Les matériaux d'entrée doivent aussi être considérés comme une partie de la publication.

Même si un matériau transmis à un service externe n'apparaît plus dans l'image publiée, il peut rester dans l'historique ou les journaux côté service.

Créer une copie de publication

Les images générées par IA doivent aussi être préparées sous forme de copie de publication avant sortie.

Ne collez pas directement la page de partage du service. Enregistrez seulement l'image nécessaire, vérifiez nom de fichier, métadonnées et contenu. Si nécessaire, modifiez taille ou format puis revérifiez l'absence d'information inutile.

Cette procédure est pénible, mais importante pour une activité anonyme.

Ne pas mélanger service de génération d'images, cloud et service de publication réduit les points d'entrée de corrélation.

Résumé

Une image générée par IA n'est pas sûre simplement parce qu'elle n'est pas une photo réelle.

Métadonnées de fichier, outil de génération, date de génération, prompt, historique du service, informations de compte, URL de partage et nom de fichier influencent l'anonymat.

Le contenu de l'image peut aussi contenir des corrélations avec les lieux habituels, intérêts, organisations d'activité ou anciens comptes.

Avant publication, vérifiez les métadonnées côté fichier, les paramètres de partage côté service, la visibilité du prompt, le contenu de l'image et le nom de fichier.

Pour une image générée par IA aussi, il est important de vérifier séparément « l'apparence », « les informations internes » et « le chemin de partage ».

Outils liés

Articles liés