Qué es un deepfake

Un deepfake es una tecnología, o el producto generado por ella, que usa IA u otros métodos para sintetizar o modificar rostro, voz o movimiento de una persona de forma que parezca real.

Esta tecnología también se usa en producción audiovisual y expresión.

Por otro lado, también se usa para suplantación, acoso, fraude, generación de imágenes sexuales y daño reputacional usando rostro o voz sin consentimiento.

Lo importante para pensar el anonimato es que las imágenes y audios publicados pueden usarse después en otro contexto.

Este artículo explica los conceptos básicos de los deepfakes y puntos que debe cuidar una persona común.

Qué puede crearse con deepfakes

Con deepfakes se hacen reemplazos de rostro, síntesis de voz, generación de movimiento de boca y creación de personas ficticias.

La tecnología en sí no es toda mala.

El problema es que se use sin consentimiento o con intención de engañar a quien mira.

El material publicado se usa

Los deepfakes necesitan material.

Fotos de rostro, videos, voz, publicaciones en SNS, transmisiones, imágenes de perfil y fotos familiares. Cuanto más material público exista, más material hay para abuso.

La voz también es información personal

En deepfakes, no solo el rostro: la voz también es material importante.

Si quedan transmisiones de audio, videos, grabaciones de llamadas, publicaciones de voz en SNS o declaraciones en eventos, pueden usarse para síntesis de voz o suplantación.

Aunque no muestres el rostro, la voz se vuelve una pista de identidad.

No es tan simple como decir que nunca mostrar rostro o voz garantiza seguridad completa.

Pero cuanto menos material público haya, menos material existe para abuso.

Relación con el anonimato

Los deepfakes también se relacionan con el anonimato.

Si se abusa de rostro o voz de la persona, una actividad anónima puede conectarse con información real, o información falsa puede dañar la confianza.

En actividad anónima, decide con cuidado si publicar rostro o voz.

El material que se difunde una vez no puede recuperarse por completo después.

Publicaciones que requieren cuidado

Como medida frente a deepfakes, no es realista borrar todas las fotos y audios.

Pero sí puedes revisar antes de publicar.

En especial, un video que conserva rostro y voz juntos es material fuerte.

Piensa en la necesidad de publicarlo y en el riesgo.

Si subes fotos de rostro, voz, imágenes de daño o videos sospechosos a servicios externos de IA generativa, clonación de voz, edición de imagen o detección de deepfakes, el material en sí, IP de acceso, hora de uso, información del navegador e historial de búsqueda o detección pueden pasar al servicio. No entregues con facilidad material de alto riesgo o imágenes de daño a servicios externos, ni siquiera para comprobar.

Distinguir real y falso será más difícil

El problema de los deepfakes no es solo que se creen falsificaciones.

También puede decirse de imágenes o audios reales que "podrían ser falsos". Eso puede obligar a víctimas a explicar y dañar su credibilidad.

Por eso hace falta gestionar el material público y pensar en preservación de pruebas si aparece un problema.

Si notas abuso

Si descubres un deepfake o suplantación, registra antes de reaccionar con prisa.

Guarda URL, capturas, hora de publicación, cuenta y estado de difusión. Si hay imágenes sexuales, amenazas, menores, fraude o difamación, considera denuncia en plataforma, especialistas, abogados, consulta policial u organizaciones de apoyo.

Es importante no cargarlo a solas.

Prevención cotidiana

Es difícil prevenir por completo los deepfakes.

Aun así, reducir material público, no reutilizar imagen o voz entre actividad real y anónima, y no publicar fotos de familia o compañeros sin permiso reduce el material abusivo disponible.

Lo importante no es paralizarse por miedo.

Es elegir por cuenta propia qué material publicar.

Cuidar también material de familia y compañeros

El daño de deepfakes no ocurre solo a la persona que publica.

Fotos familiares, fotos de grupo, videos de actividad, fotos de niños y fotos de trabajo o escuela también se vuelven material de abuso. Publicar material sin consentimiento involucra a esa persona en el riesgo.

Aunque quieras publicar un material, si contiene rostro o voz de otra persona, trátalo con cautela.

No explicar demasiado al sufrir daño

Cuando notas abuso, puede darte ganas de explicar mucho de inmediato.

Pero una explicación puede revelar nueva información personal. Primero conserva pruebas y considera denuncia o consulta.

Ante daño, antes de refutar públicamente, prioriza guardar, denunciar y consultar.

Resumen

Un deepfake es una tecnología, o producto generado, que sintetiza o modifica rostro y voz con IA u otros métodos para que parezcan reales.

Se usa para expresión, pero también para suplantación, acoso, fraude y abuso de imágenes sexuales.

Fotos de rostro, videos, audio e imágenes de perfil publicados pueden usarse después en otro contexto.

Si piensas en anonimato, revisa hasta dónde publicas rostro y voz, y si reutilizas imágenes entre actividad real y anónima.

Si notas abuso, conserva pruebas y, según la necesidad, considera denunciar o consultar a especialistas.

Herramientas relacionadas

Artículos relacionados