Qu'est-ce qu'un deepfake ?

Un deepfake désigne une technique, ou son résultat, qui utilise notamment l'IA pour synthétiser ou modifier visage, voix ou mouvements d'une personne de façon réaliste.

Cette technologie sert aussi à la création audiovisuelle et à l'expression.

Mais elle sert aussi, sans consentement de la personne, à l'usurpation par visage ou voix, au harcèlement, à l'escroquerie, à la génération d'images sexuelles et à l'atteinte à la réputation.

Pour l'anonymat, le point important est que des images ou sons publiés peuvent être réutilisés plus tard dans un autre contexte.

Cet article explique les bases des deepfakes et les points auxquels une personne ordinaire doit faire attention.

Ce qui peut être créé avec un deepfake

Les deepfakes permettent notamment de remplacer un visage, synthétiser une voix, générer un mouvement de bouche ou créer une personne fictive.

La technologie elle-même n'est pas entièrement mauvaise.

Le problème est son usage sans consentement ou dans le but de tromper.

Les matériaux publiés sont réutilisables

Un deepfake a besoin de matériaux.

Photos du visage, vidéos, voix, publications SNS, diffusions, images de profil, photos de famille. Plus il existe de matériaux publics, plus les matériaux d'abus augmentent.

La voix aussi devient une information personnelle

Dans les deepfakes, la voix est un matériau important, pas seulement le visage.

Diffusions audio, vidéos, enregistrements d'appel, publications audio sur SNS et prises de parole en événement peuvent rester et servir à la synthèse vocale ou à l'usurpation.

Même sans montrer son visage, la voix devient un indice de personne.

Ne jamais montrer visage ou voix ne garantit pas une sécurité complète.

Mais réduire les matériaux publics réduit les matériaux disponibles pour l'abus.

Lien avec l'anonymat

Les deepfakes concernent aussi l'anonymat.

Si le visage ou la voix d'une personne est abusé, une activité anonyme peut être reliée à des informations sous identité réelle, ou la confiance peut être détruite par de fausses informations.

Dans une activité anonyme, décidez avec prudence si visage ou voix doivent être publics.

Un matériau largement diffusé ne peut pas être récupéré complètement ensuite.

Publications à surveiller

Comme prévention, il n'est pas réaliste de supprimer toutes les photos et tous les sons.

Mais il est possible de vérifier avant publication.

Les vidéos qui gardent visage et voix ensemble sont des matériaux forts.

Réfléchissez à la nécessité de publication et au risque.

Téléverser photos du visage, voix, images d'abus ou vidéos suspectes vers des services externes de génération IA, clonage vocal, édition d'image ou détection de deepfake peut transmettre au service les matériaux eux-mêmes, l'adresse IP source, l'heure d'utilisation, les informations du navigateur et l'historique de recherche ou détection. Pour des matériaux à haut risque ou des images d'abus, il est important de ne pas les remettre facilement à des services externes même pour vérification.

Il devient difficile de juger le vrai et le faux

Le problème des deepfakes n'est pas seulement que des faux sont créés.

De vraies images ou voix peuvent aussi être accusées d'être fausses. La victime peut alors devoir s'expliquer, et sa crédibilité peut être atteinte.

C'est pourquoi il faut gérer les matériaux publics et penser à la conservation des preuves si un problème arrive.

En cas d'abus

Si vous remarquez un deepfake ou une usurpation, enregistrez avant de réagir dans la panique.

Sauvegardez URL, capture d'écran, heure de publication, compte et étendue de diffusion. Si images sexuelles, menace, mineurs, escroquerie ou diffamation sont en jeu, envisagez signalement à la plateforme, spécialiste, avocat, police ou organisation de soutien.

Il est important de ne pas porter cela seul.

Prévention quotidienne

Il est difficile d'empêcher complètement les deepfakes.

Mais réduire les matériaux publics, ne pas réutiliser images ou voix entre activité réelle et activité anonyme, et ne pas publier sans permission les photos de famille ou d'alliés réduit les matériaux d'abus.

L'important n'est pas d'avoir peur au point de ne plus rien faire.

C'est de choisir soi-même quels matériaux publier.

Attention aux matériaux de famille et d'alliés

Les dommages des deepfakes ne concernent pas seulement soi-même.

Photos de famille, photos de groupe, vidéos d'activité, photos d'enfants, photos de travail ou d'école deviennent aussi des matériaux d'abus. Publier des matériaux sans consentement implique cette personne dans le risque.

Même si vous voulez publier un matériau, traitez-le avec prudence s'il contient le visage ou la voix d'autres personnes.

Ne pas trop expliquer en cas de dommage

Quand on remarque un abus, on peut vouloir expliquer longuement tout de suite.

Mais l'explication peut ajouter de nouvelles informations personnelles. Commencez par conserver les preuves et envisager signalement ou consultation.

En cas de dommage, priorisez sauvegarde, signalement et consultation avant la réfutation publique.

Résumé

Un deepfake est une technique ou un résultat qui synthétise ou modifie le visage ou la voix de façon réaliste avec notamment l'IA.

Il sert à l'expression, mais aussi à l'usurpation, au harcèlement, à l'escroquerie et à l'abus d'images sexuelles.

Photos du visage, vidéos, voix et images de profil publiées peuvent être réutilisées plus tard dans un autre contexte.

Pour l'anonymat, vérifiez jusqu’où publier visage et voix, et si les images sont réutilisées entre activité réelle et activité anonyme.

Si vous remarquez un abus, conservez les preuves et envisagez signalement ou consultation spécialisée selon la situation.

Outils liés

Articles liés