O que é deepfake

Deepfake é uma tecnologia, e também o produto gerado por ela, que usa IA e outros métodos para sintetizar ou alterar rosto, voz e movimentos de uma pessoa como se fossem reais.

Essa tecnologia também é usada em produção audiovisual e expressão.

Por outro lado, também é usada para falsificação de identidade, assédio, fraude, geração de imagens sexuais e dano à reputação sem consentimento da pessoa.

Ao pensar em anonimato, o ponto importante é que imagens e áudios publicados podem ser usados depois em outro contexto.

Este artigo explica o básico de deepfake e pontos que pessoas comuns devem observar.

O que pode ser criado com deepfake

Deepfakes podem trocar rostos, sintetizar voz, gerar movimentos de boca e criar pessoas fictícias.

A tecnologia em si não é toda ruim.

O problema é ser usada sem consentimento da pessoa ou com a intenção de enganar quem vê.

Materiais publicados são usados

Deepfakes precisam de materiais.

Fotos de rosto, vídeos, voz, publicações em redes sociais, transmissões, imagens de perfil, fotos de família. Quanto mais materiais públicos existem, mais material há para abuso.

Voz também vira informação pessoal

Em deepfakes, não só o rosto, mas também a voz é um material importante.

Se transmissões de áudio, vídeos, gravações de chamadas, posts de voz em redes sociais e falas em eventos permanecem, podem ser usados para síntese de voz e falsificação de identidade.

Mesmo sem mostrar o rosto, a voz vira pista de pessoalidade.

Não é uma questão simples de "se nunca mostrar rosto ou voz, fica completamente seguro".

Mas quanto menos material público, menos material para abuso.

Relação com anonimato

Deepfake também se relaciona ao anonimato.

Se rosto ou voz da pessoa forem abusados, atividade anônima e informação de nome real podem ser ligadas; ou informações falsas podem prejudicar a credibilidade da pessoa.

Em atividade anônima, decida com cuidado se vai publicar rosto e voz.

Materiais que se espalham uma vez não podem ser totalmente recolhidos depois.

Materiais publicados que exigem cuidado

Como medida contra deepfake, apagar todas as fotos e áudios não é realista.

Mas é possível ter cuidado antes de publicar.

Vídeos que mantêm rosto e voz juntos são materiais especialmente fortes.

Pense na necessidade e no risco da publicação.

Ao enviar foto de rosto, voz, imagem de vítima ou vídeo suspeito para serviços externos de IA generativa, clonagem de voz, edição de imagem ou detecção de deepfake, o próprio material, IP de acesso, horário de uso, informações do navegador e histórico de busca ou detecção podem passar ao serviço. Materiais de alto risco e imagens de vítima não devem ser enviados facilmente a serviços externos, mesmo para verificação.

Julgar real ou falso fica mais difícil

O problema de deepfakes não é só a criação de falsificações.

Imagens e áudios reais também podem ser tratados como "talvez falsos". Isso pode obrigar vítimas a explicar e prejudicar sua credibilidade.

Por isso é necessário gerenciar materiais publicados e pensar em preservação de provas caso um problema ocorra.

Se perceber abuso

Ao perceber deepfake ou falsificação de identidade, registre antes de reagir às pressas.

Salve URL, screenshot, horário da postagem, conta e estado de disseminação. Se houver imagem sexual, ameaça, menor de idade, fraude ou difamação, considere denúncia à plataforma, especialistas, advogado, consulta policial ou organizações de apoio.

É importante não carregar isso sozinho.

Prevenção no dia a dia

É difícil impedir deepfakes completamente.

Ainda assim, reduzir materiais publicados, não reutilizar imagens e voz entre atividade de nome real e anônima e não publicar fotos de familiares ou aliados sem permissão reduz material para abuso.

O importante não é ficar paralisado pelo medo.

É escolher por si quais materiais publicar.

Cuidado também com materiais de família e aliados

O dano de deepfake não acontece só com você.

Fotos de família, fotos em grupo com aliados, vídeos de atividades, fotos de crianças e fotos de trabalho ou escola também viram material para abuso. Publicar material sem consentimento coloca a pessoa em risco.

Mesmo que seja um material que você queira publicar, trate com cuidado se contém rosto ou voz de outras pessoas.

Não explicar demais em caso de abuso

Ao perceber abuso, pode surgir vontade de explicar longamente de imediato.

Mas a explicação pode revelar novas informações pessoais. Primeiro preserve provas e considere denúncia ou consulta.

Em caso de dano, antes de rebater publicamente, priorize preservação, denúncia e consulta.

Resumo

Deepfake é tecnologia e produto que sintetiza ou altera rosto e voz com IA e outros métodos para parecer real.

Ela é usada para expressão, mas também para falsificação de identidade, assédio, fraude e abuso de imagens sexuais.

Fotos de rosto, vídeos, áudio e imagens de perfil publicados podem ser usados depois em outro contexto.

Ao pensar em anonimato, verifique até onde publicar rosto e voz e se não está reutilizando imagens entre atividade de nome real e anônima.

Se perceber abuso, preserve provas e considere denúncia ou consulta especializada conforme necessário.

Ferramentas relacionadas

Artigos relacionados