什么是深度伪造

深度伪造，是指使用 AI 等技术，把人的脸、声音、动作合成或加工得像真的一样的技术，以及由此生成的内容。

这项技术也会用于影像制作和表达。

另一方面，它也会被用于未经本人同意使用脸或声音进行冒充、骚扰、诈骗、生成性图像、损害信用。

思考匿名性时重要的是，公开过的图片和声音之后会被用在另一个语境中。

本文说明深度伪造的基本内容，以及一般个人应注意的点。

深度伪造能生成什么

深度伪造中，会进行换脸、声音合成、口型生成、虚构人物生成等。

技术本身并不全是坏的。

问题在于未经本人同意使用，或为了欺骗观看者而使用。

公开过的素材会被使用

深度伪造需要素材。

脸部照片、视频、声音、SNS 发帖、直播、头像、家庭照片。公开素材越多，被滥用的材料就越多。

声音也会成为个人信息

在深度伪造中，不只脸，声音也是重要素材。

音频直播、视频、通话录音、SNS 音频发帖、活动发言如果残留，就可能被用于声音合成或冒充。

即使没有露脸，声音也会成为显示本人性的线索。

这不是“只要从未公开脸和声音就完全安全”的简单问题。

但是，减少公开素材，就会减少可被滥用的材料。

与匿名性的关系

深度伪造也和匿名性有关。

本人脸或声音被滥用时，匿名活动可能和实名信息连接；反过来，也可能用虚假信息损害信用。

匿名活动中，要谨慎决定是否公开脸和声音。

一旦扩散的素材，之后无法完全回收。

应注意的公开物

作为深度伪造对策，删除所有照片和音频并不现实。

但是，公开前可以注意。

尤其是脸和声音成套残留的视频，会成为强素材。

要思考公开必要性和风险。

把脸部照片、声音、受害图片、可疑视频上传到外部生成式 AI、声音克隆、图片编辑、深度伪造检测服务时，素材本身、访问来源 IP、使用时间、浏览器信息、搜索和检测历史可能会传给服务侧。高风险素材和受害图片，即使是为了确认，也不要轻易交给外部服务，这一点很重要。

判断真假会变得困难

深度伪造的问题，不只是会制造假内容。

真实图片和音频也可能被说成“也许是假的”。这会迫使受害者解释，或损害其信用。

正因如此，需要管理公开素材，并考虑问题发生时的证据保存。

发现滥用时

发现深度伪造或冒充时，先记录，不要慌忙反应。

保存 URL、截图、发帖时间、账号、扩散情况。涉及性图像、威胁、未成年人、诈骗、名誉损害时，应考虑平台举报、专家、律师、警方咨询、支援团体。

不要一个人承受很重要。

日常可做的预防

完全防止深度伪造很困难。

即便如此，通过减少公开素材、不在实名活动和匿名活动中重复使用图片或声音、不擅自发布家人和同伴照片，可以减少滥用材料。

重要的不是因为恐惧而什么都不能做。

而是自己选择公开哪些素材。

家人和同伴的素材也要注意

深度伪造的受害不一定只发生在自己身上。

家庭照片、同伴合影、活动视频、儿童照片、工作单位或学校照片也会成为滥用材料。公开本人不同意的素材，会把那个人卷入风险。

即使是自己想公开的素材，只要包含他人的脸或声音，也要谨慎处理。

受害时不要解释过多

发现被滥用时，可能会立刻想写长文说明。

但是，说明中可能会给出新的个人信息。首先保存证据，再考虑举报或咨询对象。

受害时，在公开反驳之前，优先保存、举报、咨询。

总结

深度伪造，是用 AI 等把脸和声音合成、加工得像真的一样的技术或生成物。

它会用于表达，同时也会被用于冒充、骚扰、诈骗、性图像滥用。

公开过的脸部照片、视频、声音、头像，之后可能被用于另一个语境。

思考匿名性时，要确认脸和声音公开到什么程度，以及实名活动和匿名活动是否重复使用图片。

发现滥用时，应保存证据，并根据需要考虑举报或咨询专家。

相关工具

相关文章