Metadatenrisiken bei KI-generierten Bildern

Informationen, die in KI-generierten Bildern verbleiben

Bei Bildern, die mit generativer KI erstellt wurden, wird manchmal angenommen, sie seien sicher, weil sie nicht mit einer echten Kamera aufgenommen wurden.

Das ist jedoch zu einfach.

Auch KI-generierte Bilder können mit Erstellungswerkzeugen, Generierungsdatum, Bearbeitungssoftware, Prompt-Fragmenten, mit Kontoinformationen verbundenen Dateinamen, dienstseitigen Verläufen und Cloud-Freigabeinformationen zusammenhängen.

Außerdem können Erstellende oder Aktivitätsinhalte aus Prompts, Veröffentlichungstext, Generierungsverlauf oder wiederverwendetem Ausgangsmaterial vermutet werden, auch wenn im Bild selbst keine personenbezogenen Informationen sichtbar sind.

Wenn Anonymität wichtig ist, werden KI-generierte Bilder genauso geprüft wie gewöhnliche Bilder.

Dieser Artikel ordnet Informationen, die in KI-generierten Bildern verbleiben, und Punkte, die vor der Veröffentlichung geprüft werden sollten.

Auch in KI-generierten Bildern bleiben Informationen

KI-generierte Bilder enthalten nicht unbedingt Kamera-GPS-Informationen.

Das bedeutet jedoch nicht, dass keine Informationen bleiben. In der Bilddatei können Metadaten vorhanden sein, und dienstseitig können Generierungsverlauf, Prompts, Konten, IP-Adressen, Zahlungsinformationen und Nutzungszeiten zurückbleiben.

Informationen bleiben nicht nur innerhalb der Bilddatei, sondern auch beim Dienst, der zur Generierung genutzt wurde.

Für Anonymität werden Datei und Dienstverlauf getrennt betrachtet.

Prompts werden zu Hinweisen

Bei KI-generierten Bildern werden Prompts zu wichtigen Informationen.

Prompts können Orte, Personenbeschreibungen, Zwecke, politische Aussagen, Organisationsnamen, Veranstaltungsnamen, interne Umstände und den Kontext geplanter Posts enthalten. Bei Diensten oder Freigabeseiten, auf denen Prompts extern sichtbar werden, wird der Prompt selbst zu Korrelationsmaterial.

Ein Prompt ist Text hinter dem Bild.

Auch wenn man glaubt, nur das Bild zu veröffentlichen, kann der Prompt in Freigabefunktionen oder Verlaufsansichten eines Dienstes sichtbar sein.

Vor der Veröffentlichung wird geprüft, ob der Prompt extern sichtbar eingestellt ist.

Generierte Bilder haben ebenfalls Metadaten

Auch KI-generierte Bilder können Dateimetadaten behalten.

Dazu gehören Erstellungssoftware, Bearbeitungssoftware, Generierungswerkzeuge, Datum und Uhrzeit, Farbprofile, XMP-Informationen und in manchen Fällen Herkunftsinformationen zur KI-Generierung.

ExifTool ist ein typisches Werkzeug, mit dem Metadaten von Bilddateien geprüft werden können. Es kann viele Informationen prüfen, darunter EXIF, GPS und XMP.

URL : https://exiftool.org/

Was ExifTool prüfen kann, sind jedoch vor allem dateiseitige Informationen. Verläufe, Konten, Zahlungsinformationen oder IP-Adressen, die beim Generierungsdienst bleiben, kann es nicht prüfen.

Auch den Bildinhalt prüfen

Auch bei KI-generierten Bildern kann der Inhalt selbst zum Hinweis werden.

Zum Beispiel ein Hintergrund, der einer realen Region ähnelt, eine Komposition, die einen bestimmten Arbeitsplatz oder eine Schule nahelegt, ein Symbol einer Aktivitätsgruppe oder ein Zeichenstil, der einem früher verwendeten Icon ähnelt.

Auch wenn ein KI-Bild "fiktiv" ist, können Interessen und Aktivitätsbereich der erstellenden Person darin erscheinen.

Für Anonymität wird nicht nur danach beurteilt, ob ein Bild fotografisch oder generiert ist.

Freigabemethode prüfen

Beim Teilen KI-generierter Bilder betrachtet man nicht nur die Datei, sondern auch die Freigabemethode.

Bei öffentlicher Seite eines Generierungsdienstes, Cloud-Freigabe, Social-Media-Post und Chat-Nachricht sehen Empfänger unterschiedliche Informationen.

Bei KI-generierten Bildern lässt sich Risiko leichter verwalten, wenn die Datei gespeichert und daraus eine Veröffentlichungskopie erstellt wird.

Wenn eine Freigabe-URL eines Dienstes unverändert eingefügt wird, wird immer geprüft, was das Gegenüber sehen kann.

Verlauf des Generierungsdienst-Kontos bedenken

Bei KI-generierten Bildern existiert Verlauf auch außerhalb der Datei.

Ein Generierungsdienst kann Prompts, Generierungsdatum und -zeit, erstellte Bilder, Bearbeitungsverläufe, Konten, Zahlungen und Login-Verläufe behalten. Das verschwindet nicht zwingend dienstseitig, selbst wenn die Datei heruntergeladen und Metadaten entfernt werden.

Wenn generative KI für anonyme Aktivität genutzt wird, gehört das Konto des Generierungsdienstes in das Bedrohungsmodell.

Wenn ein mit Klarnamenkonto erstelltes Bild in einem anonymen Konto genutzt wird, entsteht Korrelation.

Vorsicht mit wiederverwendetem Material

KI-generierte Bilder können eigene Fotos oder Referenzbilder verwenden.

Wenn dieses Material ein Bild aus einem früheren Konto, ein Bild in einer Klarnamen-Cloud oder ein zu Hause oder am Arbeitsplatz aufgenommenes Bild ist, können Merkmale nach der Generierung im Bild verbleiben.

Außerdem können beim Eingeben von Referenzbildern oder unveröffentlichtem Material in einen externen Bildgenerierungsdienst bereits Bilder, Prompts, Nutzungszeit, Kontoinformationen und Verbindungsinformationen an diesen Dienst übergeben werden. Bei Hochrisiko-Material wird zuerst bedacht, ob man diesen Input überhaupt an diesen Dienst geben sollte, nicht nur, ob sich das Aussehen nach der Generierung ändert.

Etwas mit generativer KI zu bearbeiten, löscht die Ursprungsinformation nicht zwingend.

Als Eingabe verwendetes Material wird als Teil der Veröffentlichung betrachtet. Material, das an einen externen Dienst übergeben wurde, kann in dienstseitigen Verläufen oder Logs bleiben, auch wenn es aus dem veröffentlichten Bild verschwunden ist.

Veröffentlichungskopie erstellen

Auch bei KI-generierten Bildern wird vor der Veröffentlichung eine Veröffentlichungskopie erstellt.

Statt die Freigabeseite eines Dienstes unverändert einzufügen, wird nur das notwendige Bild gespeichert und Dateiname, Metadaten und Bildinhalt werden geprüft. Bei Bedarf werden Größe oder Format geändert und erneut geprüft, ob unnötige Informationen bleiben.

Dieser Ablauf ist unbequem, aber für anonyme Aktivität wichtig.

Indem Bildgenerierungsdienst, Cloud und Posting-Dienst nicht vermischt werden, lassen sich Eingänge für Korrelation reduzieren.

Zusammenfassung

KI-generierte Bilder sind nicht sicher, nur weil sie keine Fotos sind.

Dateimetadaten, Generierungswerkzeuge, Generierungsdatum und -zeit, Prompts, Dienstverläufe, Kontoinformationen, Freigabe-URLs und Dateinamen beeinflussen Anonymität.

Auch der Bildinhalt kann gewohnte Aktivitätsbereiche, Interessen, Aktivitätsgruppen und Korrelation mit früheren Konten zeigen.

Vor der Veröffentlichung werden dateiseitige Metadaten, Freigabeeinstellungen des Generierungsdienstes, Sichtbarkeit von Prompts, Bildinhalt und Dateinamen geprüft.

Auch bei KI-generierten Bildern ist wichtig, "Aussehen", "interne Information" und "Freigabeweg" getrennt zu prüfen, genauso wie bei gewöhnlichen Bildern.

Verwandte Werkzeuge

Verwandte Artikel