Дипфейк: фокусы с реальностью

Происхождение дипфейков

В конце 1990-х компания Video Rewrite продемонстрировала возможности ИИ в создании реалистичных видео, синхронизируя артикуляцию человека с генерируемой аудиодорожкой.

В 2017 году термин «дипфейк» стал общеизвестным благодаря порновидео с лицами знаменитостей, «наложенными» на актеров с помощью технологии замены лиц, опубликованным на форуме Reddit под псевдонимом «deepfakes».

Применение ИИ-контента также расширяется и включает в себя использование в различных сферах, таких как маркетинг, развлекательные медиа, видеоигры, наука, кино, мода, архитектура и так далее.

Применение дипфейков в маркетинге

ИИ-контент позволяет решать традиционные бизнес-задачи, такие как демонстрация товаров и услуг, привлечение клиентов, повышение узнаваемости бренда, увеличение прибыли. Также этот инструмент предлагает следующие преимущества:

Сокращение расходов на рекламу

Которое становится возможным благодаря использованию ИИ для создания контента, что позволяет обходиться без привлечения актеров и выплаты им денежного вознаграждения.

Использование дипфейков позволяет компании сокращать расходы на рекламу и создавать изображения любых лиц, включая известных личностей.

Для использования в рекламе образов людей и защищенных авторским правом материалов (фото, видео, музыка) необходимо получить разрешение правообладателей, иначе возможны штрафы, судебные иски и запрет на использование материалов.

Адаптация рекламы

ИИ-технологии позволяют быстро и легко адаптировать рекламу под разные платформы, генерируя видео для соцсетей, тексты для аудиорекламы и изображения для билбордов.

Дипфейки позволяют брендам оперативно и недорого адаптировать рекламу, создавая видео на разных языках и меняя место действия, что экономит время и ресурсы.

Эксперименты

Используя ИИ, бренды получают возможность для экспериментов, создавая уникальную и креативную рекламу, которая выделяет их среди конкурентов и привлекает внимание аудитории.

При помощи дипфейков можно реализовать виртуальные примерочные, где покупатели смогут «примерить» одежду, а также оживить вымышленных персонажей в реальности.

Как создают дипфейки

В 2014 году американский ученый разработал технологию GAN, которая стала широко использоваться для создания дипфейков. Эта технология включает в себя два машинных алгоритма: один (генератор) анализирует реальные данные и создает новые изображения, а второй (дискриминатор) оценивает их реалистичность.

Генератор обрабатывает тысячи изображений человека с различных ракурсов — включая мимику и выражения лица, и создает фейковое изображение. Дискриминатор затем оценивает это изображение, проверяя его аутентичность и уникальность. Подобные процессы используются также для создания аудио и видео.

Две сети функционируют в состязательном режиме: генератор стремится «обмануть» дискриминатор, а дискриминатор — выявить обман. Это постоянное соревнование помогает алгоритмам обучаться и улучшать свои способности, что приводит к производству высококачественного и реалистичного ИИ-контента.

Как сделать дипфейки самому

Существуют удобные для пользователя программы, приложения и онлайн-сервисы, которые предоставляют возможность создавать дипфейки. Большинство из этих инструментов являются платными, но они также предлагают пробные версии для временного использования.

• FaceSwap — это многофункциональное приложение, доступное для пользователей Windows, MacOS и Linux, позволяющее заменять лица на видеоматериалах. Этот инструмент идеален для создания кастомизированных видео, где пользователи могут весело экспериментировать, подставляя лица друзей или знаменитостей в различные видеоконтексты.

• Deepfakes Web — онлайн-сервис, предоставляющий возможность создания дипфейк-роликов с заменой лиц. Сервис облегчает процесс создания персонализированных видео, предлагая простые в использовании инструменты, доступные через браузер без необходимости установки дополнительного ПО.

• Face Swap Live Lite — приложение для мобильных устройств, которое предоставляет пользователям возможность в реальном времени обмениваться лицами с друзьями. Оно также предлагает функции накладывания масок и лиц знаменитостей на свои снимки, добавляя развлечение в каждодневное общение и делая виртуальное общение еще более забавным.

• Avatarify — мобильное приложение, которое оживляет фото, добавляя им мимику и артикуляцию. Пользователи могут также накладывать звуковые дорожки и песни, создавая анимированные изображения, которые можно использовать в социальных медиа или отправлять друзьям как уникальные видеоприветствия. Это приложение превращает обычные фотографии в интерактивные, динамичные сцены, улучшая общее взаимодействие с контентом.

• FacePlay — это мобильное приложение, которое предоставляет более трех тысяч шаблонов для изменения лица, позволяя пользователям трансформировать свои образы в стили, вдохновленные популярными фильмами, комиксами, или даже создавать фотографии, подходящие для официальных документов. Приложение позволяет также менять расовую принадлежность и другие физические характеристики, делая каждое изображение по-настоящему персонализированным и творческим.

В чем опасность дипфейков и как их обнаружить

Дипфейки могут наносить ущерб репутации людей, например, через распространение поддельных порнографических материалов, и оказывать воздействие на политическую ситуацию в странах.

В 2018 году в сети появилось сфабрикованное видео, в котором Барак Обама высказывается в критическом ключе о Дональде Трампе. Это видео, созданное с высокой степенью реализма, быстро распространилось вирусным путем. Создатели этого контента стремились показать общественности потенциальную угрозу от дипфейков и поднять обсуждение данной проблематики.

В Соединенных Штатах дипфейки признаны угрозой национальной безопасности. В Калифорнии действуют законы, запрещающие публикацию ИИ-созданного контента с участием политических фигур и распространение фальсифицированных порновидео без согласия изображенного человека.
Для общественности дипфейки также представляют серьезную опасность мошенничества: преступники могут имитировать голос знакомого для кражи денег, использовать компромат для вымогательства или обманывать людей, выдавая себя за известных личностей.

Как обезопасить себя от действий мошенников

Чтобы обезопасить себя от действий мошенников, важно придерживаться следующих мер безопасности:

• полагаться только на надежные источники информации;

• с осторожностью относиться к звонкам, в которых требуют перевод денег, и при возможности перезванивать абоненту, чтобы подтвердить запрос;

• рассказывать родным и друзьям о различных методах мошенничества, чтобы они также могли оставаться настороже;

• создавать резервные копии данных на всех устройствах, устанавливать надежные антивирусные программы и включать многофакторную аутентификацию для социальных сетей и государственных сервисов, что поможет защитить личные данные и предотвратить взлом аккаунтов.

Дипфейки могут использоваться как для полезных, так и для вредных целей. В положительном контексте они позволяют экономно создавать образовательные и рекламные видео, где не важно, кто говорит текст — реальный человек или аватар. Эти видео можно адаптировать под разные языки и платформы, и их качество настолько высоко, что искусственность обычно не отталкивает пользователей. Однако для предотвращения неправомерного использования лиц без их согласия требуются юридические и моральные ограничения.

Кейсы компаний, использующих дипфейки (2023-2024)