Was Deepfakes sind

Deepfakes können Gesichter, Stimmen und Bewegungen synthetisieren oder verändern; öffentliches Material kann später für Identitätsmissbrauch, Harassment oder Betrug genutzt werden.

Deepfakes sind Technologien oder erzeugte Inhalte, bei denen KI und ähnliche Verfahren Gesichter, Stimmen oder Bewegungen von Menschen echt wirkend synthetisieren oder verändern.

Diese Technik wird auch in Videoproduktion und Ausdrucksformen genutzt.

Gleichzeitig wird sie für Identitätsmissbrauch, Harassment, Betrug, sexuelle Bildgenerierung und Rufschädigung mit Gesicht oder Stimme ohne Einwilligung der betroffenen Person genutzt.

Für Anonymität ist wichtig, dass veröffentlichte Bilder und Stimmen später in anderen Kontexten verwendet werden können.

Dieser Artikel erklärt Grundlagen von Deepfakes und Punkte, auf die allgemeine Einzelpersonen achten sollten.

Was mit Deepfakes erstellt wird

Deepfakes können Gesichter ersetzen, Stimmen synthetisieren, Mundbewegungen erzeugen und fiktive Personen erstellen.

Die Technik selbst ist nicht in jeder Nutzung schlecht.

Problematisch ist Nutzung ohne Einwilligung oder mit dem Ziel, Betrachtende zu täuschen.

Veröffentlichte Materialien werden genutzt

Deepfakes brauchen Ausgangsmaterial.

Gesichtsfotos, Videos, Stimme, SNS-Beiträge, Streams, Profilbilder, Familienfotos. Je mehr öffentliches Material vorhanden ist, desto mehr Material steht für Missbrauch bereit.

Auch Stimme wird personenbezogene Information

Bei Deepfakes ist nicht nur das Gesicht, sondern auch die Stimme wichtiges Material.

Wenn Audio-Streams, Videos, Gesprächsaufnahmen, SNS-Audioposts oder Äußerungen bei Veranstaltungen bleiben, können sie für Stimmsynthese oder Identitätsmissbrauch genutzt werden.

Auch ohne Gesicht wird Stimme ein Hinweis auf Personenähnlichkeit.

Es ist keine einfache Aussage wie: Wer niemals Gesicht oder Stimme zeigt, ist vollständig sicher.

Je weniger öffentliches Material vorhanden ist, desto weniger Missbrauchsmaterial gibt es aber.

Bezug zur Anonymität

Deepfakes hängen auch mit Anonymität zusammen.

Wenn Gesicht oder Stimme einer Person missbraucht werden, können anonyme Aktivität und Klarnameninformation verbunden oder die Glaubwürdigkeit durch gefälschte Informationen beschädigt werden.

Bei anonymer Aktivität entscheidet man sorgfältig, ob Gesicht oder Stimme veröffentlicht werden.

Ein einmal verbreitetes Material lässt sich später nicht vollständig zurückholen.

Veröffentlichungen, auf die man achten sollte

Als Deepfake-Vorsorge ist es unrealistisch, alle Fotos und Audios zu entfernen.

Aber vor Veröffentlichung kann man prüfen.

Besonders Videos, in denen Gesicht und Stimme zusammen bleiben, sind starkes Material.

Man überlegt, ob die Veröffentlichung nötig ist und welches Risiko besteht.

Wenn man Gesichtsfotos, Stimmen, Missbrauchsbilder oder verdächtige Videos zu externen generativen KI-, Voice-Cloning-, Bildbearbeitungs- oder Deepfake-Erkennungsdiensten hochlädt, können Material selbst, Zugriffs-IP, Nutzungszeit, Browserinformationen und Such- oder Erkennungsverlauf an den Dienst gelangen. Hochriskantes Material und Missbrauchsbilder sollten auch zur Prüfung nicht leichtfertig externen Diensten gegeben werden.

Echt und falsch werden schwerer zu beurteilen

Das Problem von Deepfakes ist nicht nur, dass Fälschungen entstehen.

Auch echte Bilder und Audios können als „vielleicht gefälscht“ dargestellt werden. Dadurch können Betroffene zu Erklärungen gedrängt oder in ihrer Glaubwürdigkeit beschädigt werden.

Darum ist es nötig, öffentliches Material zu steuern und im Problemfall Beweissicherung mitzudenken.

Wenn Missbrauch auffällt

Wenn man Deepfake oder Identitätsmissbrauch bemerkt, dokumentiert man, bevor man hektisch reagiert.

URL, Screenshot, Post-Zeit, Konto und Verbreitungslage werden gesichert. Wenn sexuelle Bilder, Drohung, Minderjährige, Betrug oder Rufschädigung betroffen sind, erwägt man Plattformmeldung, Fachleute, Anwälte, Polizeiberatung und Unterstützungsorganisationen.

Wichtig ist, es nicht allein zu tragen.

Alltägliche Vorsorge

Deepfakes vollständig zu verhindern ist schwierig.

Trotzdem verringert man Missbrauchsmaterial, indem man öffentliches Material reduziert, Bilder und Stimme zwischen Klarnamen- und anonymer Aktivität nicht wiederverwendet und Fotos von Familie oder Mitstreitenden nicht eigenmächtig veröffentlicht.

Wichtig ist nicht, aus Angst gar nichts mehr tun zu können.

Wichtig ist, selbst zu wählen, welches Material veröffentlicht wird.

Auch Material von Familie und Mitstreitenden beachten

Deepfake-Schäden betreffen nicht immer nur einen selbst.

Familienfotos, Gruppenfotos mit Mitstreitenden, Videos bei Aktivitäten, Kinderfotos und Arbeitsplatz- oder Schulfotos können ebenfalls Missbrauchsmaterial werden. Wer Material ohne Einwilligung veröffentlicht, zieht diese Menschen in Risiken hinein.

Auch wenn man selbst ein Material veröffentlichen möchte, behandelt man es vorsichtig, wenn Gesicht oder Stimme anderer Menschen enthalten sind.

Bei Schaden nicht zu viel erklären

Wenn Missbrauch auffällt, möchte man manchmal sofort ausführlich erklären.

In solchen Erklärungen können aber neue personenbezogene Informationen auftauchen. Zuerst sichert man Beweise und prüft Meldung oder Beratungsstellen.

Im Schadensfall haben Sichern, Melden und Beratung Vorrang vor öffentlichem Widerspruch.

Zusammenfassung

Deepfakes sind Technologien und erzeugte Inhalte, die Gesicht oder Stimme mit KI und ähnlichen Verfahren echt wirkend synthetisieren oder verändern.

Sie werden für Ausdruck genutzt, aber auch für Identitätsmissbrauch, Harassment, Betrug und Missbrauch sexueller Bilder.

Veröffentlichte Gesichtsfotos, Videos, Audios und Profilbilder können später in anderen Kontexten genutzt werden.

Für Anonymität prüft man, wie weit Gesicht und Stimme veröffentlicht werden und ob Bilder zwischen Klarnamen- und anonymer Aktivität wiederverwendet werden.

Wenn Missbrauch auffällt, sichert man Beweise und erwägt bei Bedarf Meldung oder fachliche Beratung.

Verwandte Werkzeuge

Verwandte Artikel

• Privatpersonen —Kinderfotos und Risiken im KI-Zeitalter
• Frühere Informationen und Löschung —Wenn das eigene Foto auf einer Unternehmensseite oder fremden Seite verwendet wird
• Privatpersonen —Frühere Informationen, die Privatpersonen zuerst prüfen sollten
• Privatpersonen —Risiken durch Social-Media-Posts und Suchergebnisse
• Privatpersonen —Warum Gesichtsfotos, Stimmen und gewohnte Orte missbraucht werden können
• Privatpersonen —Hinweise, um Familie und Freunde nicht hineinzuziehen