Что такое дипфейк

Частные лица

Что такое дипфейк

Дипфейк - это технология или созданный ею материал, где с помощью ИИ и похожих методов лицо, голос или движения человека синтезируются и обрабатываются так, чтобы выглядеть настоящими.

Эта технология используется и в видеопроизводстве, и в выражении.

С другой стороны, ее используют для выдачи себя за другого без согласия человека, харассмента, мошенничества, создания сексуальных изображений и ущерба репутации.

Для анонимности важно, что опубликованные изображения и звук могут позже использоваться в другом контексте.

В этой статье объясняются основы дипфейков и моменты, на которые стоит обращать внимание обычным людям.

Что создают с помощью дипфейков

В дипфейках выполняют замену лица, синтез голоса, генерацию движений губ и создание вымышленных людей.

Вид	Описание
Синтез лица	Накладывает лицо другого человека на видео или изображение
Синтез голоса	Создает речь голосом, похожим на голос человека
Генерация lip-sync	Создает движения губ под аудио
Генерация вымышленного человека	Создает изображение несуществующего человека
Изменение изображения	Показывает будто человек сделал то, чего не делал

Сама технология не является плохой во всех случаях.

Проблема возникает, когда ее используют без согласия человека или чтобы обмануть зрителя.

Опубликованные материалы используются как сырье

Дипфейкам нужны исходные материалы.

Фотографии лица, видео, голос, публикации в соцсетях, трансляции, фото профиля, семейные фотографии. Чем больше публичных материалов, тем больше сырья для злоупотребления.

Голос тоже становится персональной информацией

В дипфейках важным материалом становится не только лицо, но и голос.

Если остаются аудиотрансляции, видео, записи звонков, голосовые публикации в соцсетях, выступления на событиях, они могут использоваться для синтеза голоса и выдачи себя за другого.

Аудиоматериал	Риск
Архив трансляции	Остается длинная запись голоса
Голос в видео	Лицо и голос идут вместе
Голосовая публикация	Голос сам по себе передает узнаваемость человека
Выступление на событии	Связывается с активностью и принадлежностью
Запись звонка	Становится материалом для имитации проверки личности

Даже без лица голос становится признаком, указывающим на человека.

Материал	Риск
Фото лица	Используется для синтеза лица и выдачи себя за другого
Видео	Дает материал выражений и ракурсов
Аудио	Используется для синтеза голоса
Семейные фотографии	Втягивают окружающих
Прошлые публикации	Дают контекст и похожесть на автора

Это не простая история "если никогда не показывать лицо и голос, будет полностью безопасно".

Но чем меньше опубликованных материалов, тем меньше сырья для злоупотребления.

Связь с анонимностью

Дипфейк связан и с анонимностью.

Если лицо или голос человека злоупотребительно используются, анонимная активность может связываться с информацией настоящего имени, или, наоборот, ложная информация может подрывать доверие.

Риск	Влияние на анонимность
Выдача себя за другого	Показывают, будто человек сам это сказал
Ложное изображение	Анонимная активность связывается с лицом настоящего имени
Злоупотребление голосом	По телефону или голосовым сообщением выглядит как сам человек
Харассмент	Угрожает социальной репутации и безопасности
Втягивание связанных людей	Используются изображения семьи и соратников

В анонимной активности нужно осторожно решать, публиковать ли лицо и голос.

Материалы, которые однажды распространились, нельзя полностью вернуть назад.

Публикуемые материалы, требующие внимания

В качестве защиты от дипфейков нереалистично удалить все фотографии и звук.

Но перед публикацией можно проявить осторожность.

Публикуемый материал	Что проверить
Фото лица	Не публикуется ли много снимков в высоком разрешении
Видео	Не содержит ли достаточно ракурсов лица и голоса
Аудиотрансляция	Не слышна ли похожесть на человека по одному голосу
Семейные фотографии	Учтены ли согласие и влияние на окружающих
Фото профиля	Не используется ли повторно в активности с настоящим именем и анонимной активности

Особенно сильным материалом становится видео, где лицо и голос остаются вместе.

Подумайте, действительно ли нужна публикация, и оцените риск.

Если загружать фото лица, голос, изображения, связанные с вредом или насилием, или подозрительные видео во внешние генеративные ИИ, сервисы клонирования голоса, редактирования изображений или обнаружения дипфейков, на сторону сервиса могут попасть сами материалы, IP источника, время использования, сведения браузера и история поиска или проверки. Высокорисковые материалы и изображения, связанные с вредом или насилием, важно не передавать внешним сервисам легкомысленно даже ради проверки.

Отличить настоящее от подделки становится труднее

Проблема дипфейков не только в создании подделок.

Даже настоящие изображения и звук могут объявить "возможно подделкой". Из-за этого пострадавшего заставляют объясняться, а доверие к нему подрывается.

Что происходит	Влияние
Подделку принимают за настоящее	Ведет к выдаче себя за другого и харассменту
Настоящее называют подделкой	Подрывается доверие к свидетельству и записи
Заставляют объясняться	Бремя переносится на пострадавшую сторону
Распространение идет быстрее	Исправления доходят хуже
Втягиваются связанные люди	Влияет на семью и работу

Поэтому нужно управлять опубликованными материалами и заранее думать о сохранении доказательств на случай проблемы.

Если вы заметили злоупотребление

Если вы заметили дипфейк или выдачу себя за другого, сначала зафиксируйте информацию, а не реагируйте в панике.

Сохраните URL, скриншоты, время публикации, аккаунт и ситуацию распространения. Если связаны сексуальные изображения, угрозы, несовершеннолетние, мошенничество или клевета, рассмотрите жалобу на платформу, специалиста, юриста, консультацию в полиции или организацию поддержки.

Ситуация	Действие
Публикация с выдачей себя за другого	Сохранить URL, скриншот, аккаунт
Злоупотребление сексуальным изображением	Быстро рассмотреть жалобу и профильное окно
Использование для мошенничества	Предупредить связанных людей и сохранить доказательства
Угрозы	Приоритет - безопасность и консультация, а не ответ
Распространение	Подать запрос на удаление и проверить область влияния

Важно не оставаться с этим в одиночку.

Повседневная профилактика

Полностью предотвратить дипфейки трудно.

Но можно уменьшить сырье для злоупотребления: меньше публиковать исходные материалы, не использовать одни и те же изображения или голос в активности с настоящим именем и анонимной активности, не публиковать без разрешения фотографии семьи и соратников.

Профилактика	Эффект
Не публиковать слишком много фото лица	Уменьшает объем сырья
Осторожно публиковать видео	Уменьшает наборы "лицо + голос"
Разделять изображения для настоящего имени и анонимности	Избегает корреляции
Не публиковать слишком много семейных фото	Не втягивает окружающих
Определить способ фиксации при проблеме	Упрощает консультацию и жалобу

Важно не бояться до полной невозможности действовать.

Важно самому выбирать, какие материалы публиковать.

Осторожность с материалами семьи и соратников

Вред от дипфейков может коснуться не только вас.

Семейные фотографии, групповые фото с соратниками, видео активности, фотографии детей, фотографии работы или школы тоже становятся сырьем для злоупотребления. Публикация материала без согласия человека втягивает его в риск.

Материал	На что обратить внимание
Семейные фотографии	Видны лица и привычные места
Фотографии детей	Велик риск сохранения на будущее
Групповое фото с соратниками	Легко становится списком связанных людей
Фото работы или школы	Видны принадлежность и роль
Видео активности	Лицо, голос и позиция остаются вместе

Даже если вы сами хотите опубликовать материал, осторожно обращайтесь с ним, если там есть лица или голоса других людей.

Не объяснять чрезмерно при вреде

Когда замечено злоупотребление, иногда хочется сразу написать длинное объяснение.

Но в объяснении можно выдать новую персональную информацию. Сначала сохраните доказательства и рассмотрите жалобу или место консультации.

Что часто делают в панике	На что обратить внимание
Длинно возражают	Легко выдать дополнительную персональную информацию
Преследуют другую сторону	Можно втянуться в дальнейший харассмент
Удаляют доказательства	Консультация и жалоба становятся труднее
Рассылают связанным людям	Иногда это распространяет изображение вреда
Держат все в одиночку	Решения запаздывают

При вреде перед публичным возражением отдавайте приоритет сохранению, жалобе и консультации.

Итоги

Дипфейк - это технология и созданные материалы, где лицо или голос синтезируются и обрабатываются ИИ и похожими методами так, чтобы выглядеть настоящими.

Он используется в выражении, но также применяется для выдачи себя за другого, харассмента, мошенничества и злоупотребления сексуальными изображениями.

Опубликованные фото лица, видео, аудио и фото профиля позже могут использоваться в другом контексте.

Если вы думаете об анонимности, проверьте, насколько публикуете лицо и голос и не используете ли одни и те же изображения в активности с настоящим именем и анонимной активности.

Если вы заметили злоупотребление, сохраните доказательства и при необходимости рассмотрите жалобу или консультацию со специалистом.