Дипфейки: можно ли обезопасить себя от мошенников?

Inc.Hi-Tech

Как мошенники используют дипфейки и почему не стоит выкладывать в интернет свои фотографии

Текст: Индира Жарова, руководитель агентства видеоновостей Ruptly. Фото: GuerrillaBuzz, Unsplash

guerrillabuzz-NwD_UggDGs-unsplash.jpg

В эпоху стремительного развития технологий создания и распространения видеоконтента, который сегодня является одним из основных инструментов передачи информации, на повестке дня часто возникает проблема отличия подлинных видео от дипфейков. Дипфейк (от англ. deep learning — глубинное обучение, fake — подделка) — это метод синтеза контента, вырабатываемый посредством машинного обучения и искусственного интеллекта. Для его создания не требуется много информации, достаточно лишь фотографии, видео или записи голоса человека, далее — дело за нейросетью. Как злоумышленники используют технологию в своих целях и можно ли обезопасить себя от них, разобралась для Inc. руководитель российского агентства видеоновостей Ruptly Индира Жарова.

Количество фейковых видео, порождающих ложные инфоповоды, стремительно растет, они становятся все более правдоподобными и труднодоступными для выявления. Если ранее эта технология использовалась для развлечения публики интригующим контентом о селебрити, то в текущей мировой обстановке она задействуется с целью влияния на политику, совершения манипулятивных действий и дезинформирования общественности.

С их распространением возникает все больше случаев „дискредитации” влиятельных личностей. Если не предавать эту проблему активному освещению в информационных источниках и не продумывать эффективные схемы противодействия, в дальнейшем такие видео и вовсе смогут стать угрозой национальной и международной безопасности.

С чего все началось?

Главным виновником появления подобных видео стал искусственный интеллект и его быстро развивающиеся возможности. В числе первых ИИ-моделей, посредством которых создавались первые дипфейки, стала уже всем известная GAN — генеративно-состязательная нейросеть, разработанная в 2014 году американским айтишником Яном Гудфеллоу и его командой. Производительность этой модели поддерживается двумя конкурирующими нейронными сетями — «генератором» случайных реалистичных изображений и «дискриминатором», который отделяет фейковые материалы от подлинных.

Создание дипфейка включает в себя несколько этапов: сбор данных, обучение модели и итоговую реализацию. Для начала требуется большое количество изображений и/или видео человека, который будет заменен на подделке. Затем генератор и дискриминатор обучаются на этих данных, чтобы лучше воспроизводить лицо или голос человека. После обучения модель способна заменять лицо одного человека лицом другого в видео или аудио с высокой степенью реализма.

Первые сгенерированные с помощью ИИ дипфейки появились в 2017 году. Тогда резонансный кейс с применением усовершенствованной технологии связывали с пользователем, который опубликовал на Reddit несколько интимных роликов с участием фальшивых обнаженных звезд, в числе которых — Скарлетт Йоханссон, Эмма Уотсон и другие. Год спустя в сети появилось поддельное видео с Бараком Обамой, произносящим речь, в которой он назвал занимавшего на тот момент должность президента Дональда Трампа «полным идиотом». Этот ролик, созданный с использованием дипфейк-технологии, показывает, насколько реалистичными могут быть подделки и как их можно использовать для манипуляции общественным мнением. Видео было создано американским актером Джорданом Пилом и медиакомпанией BuzzFeed с целью показать опасность дипфейков.

В 2019 году дипфейк-манипуляции оказался подвержен соучредитель и главный исполнительный директор Meta* [признана экстремистской организацией на территории России] Марк Цукерберг. В фейковом видео он «заявил» о том, как контролирует украденные данные миллионов пользователей.

Сегодня, благодаря автоматизации и доступности инструментов, процесс создания компрометирующего контента стал значительно проще для широкой аудитории. Существует множество приложений, позволяющих синтезировать дипфейки с минимальными техническими знаниями, например, DeepFaceLab, FaceSwap, Reface и многие другие. На Youtube можно легко найти туториалы, в которых доходчиво объясняется, как пользоваться подобными программами. То есть при желании сделать дипфейк может любой пользователь интернета. Но качество и убедительность будет зависеть от того, сколько пользователь будет обучаться работе с ИИ и от количества контента с лицом человека, который он «скормит» нейросети.

Так, дипфейк по простому гайду с Youtube вряд ли будет выглядеть достоверно. Но при должном усердии, изучении более продвинутых функций на форумах и обработке большого количества контента может получиться то, что некоторым пользователям будет довольно сложно отличить от реальности. Такие работы, уже можно сказать профессионалов, естественно, распознать сложнее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

NASA обнаружило на Марсе «редкие сокровища», пролежавшие там миллиарды лет NASA обнаружило на Марсе «редкие сокровища», пролежавшие там миллиарды лет

Марсоход NASA обнаружил множество древних камней на краю кратера Езеро

Inc.
Тернистый путь электрокара: когда мир откажется от бензиновых двигателей Тернистый путь электрокара: когда мир откажется от бензиновых двигателей

Смогут ли торговые войны замедлить распространение электромобилей?

Forbes
Почему на самом деле у металлических крышек для бутылок ровно 21 зубец и зачем они вообще нужны Почему на самом деле у металлических крышек для бутылок ровно 21 зубец и зачем они вообще нужны

Почему у металлических крышек для стеклянных бутылок ровно 21 зубчик?

ТехИнсайдер
Пыль в глаза Пыль в глаза

Почему возникает конъюнктивит и как его лечить

Лиза
Используй ложку и телефон: 20 способов доставить себе удовольствие Используй ложку и телефон: 20 способов доставить себе удовольствие

Двадцать разных способов мастурбации на любой вкус и цвет

Cosmopolitan
Мир велик, как баобаб Мир велик, как баобаб

На скольких языках говорят африканцы?

Знание – сила
Куда вложить деньги, чтобы они приносили прибыль Куда вложить деньги, чтобы они приносили прибыль

Варианты для инвестиций и пассивного дохода

VC.RU
Полный метр Полный метр

Уютно обустраиваем зоны для работы, отдыха и бьюти-экспериментов

VOICE
«Погрузишь легочного, а привозишь с заворотом кишок!» Что говорили водители про первый советский грузовик АМО «Погрузишь легочного, а привозишь с заворотом кишок!» Что говорили водители про первый советский грузовик АМО

Посмотрите на историю первенца автопрома СССР глазами живых очевидцев

ТехИнсайдер
Новые русские ремесленники Новые русские ремесленники

Как делают свои прекрасные вещи настоящие ремесленники

Монокль
Кочегар Кочегар

История Прохора, который трудится в необычной кочегарне

Знание – сила
Знали ли вы, что витамины можно «вдыхать» Знали ли вы, что витамины можно «вдыхать»

Почему мы чувствуем бодрость, когда вдыхаем свежий воздух на природе?

ТехИнсайдер
Новые реалии — новые правила: ректор РАНХиГС Алексей Комиссаров — о трансформации бизнес-образования Новые реалии — новые правила: ректор РАНХиГС Алексей Комиссаров — о трансформации бизнес-образования

Ректор РАНХиГС о ценности рейтингов, требованиях времени и «корочке» пилота

СНОБ
Свидание с Россией Свидание с Россией

Успешные россияне рассказали о близких их сердцу регионах

RR Люкс.Личности.Бизнес.
Даже не верится: Леонардо ДиКаприо – 50! Даже не верится: Леонардо ДиКаприо – 50!

Собрали самые интересные факты о знаменитом актере Леонардо ДиКаприо

Лиза
«О началах и концах света: Рождение и гибель мира в мифологии, религии и науке» «О началах и концах света: Рождение и гибель мира в мифологии, религии и науке»

Когда наш мир утонет в расплавленном металле

N+1
Кочевые племена Кочевые племена

Хотите ли вы узнать, что ощущали русские землепроходцы?

Отдых в России
Нужно ли удалять аденоиды или само пройдёт? Нужно ли удалять аденоиды или само пройдёт?

Что такое аденоиды и может ли ребенок их «перерасти»?

Здоровье
«Тайные безумцы Российской империи XVIII века» «Тайные безумцы Российской империи XVIII века»

Как органы политического сыска ставили диагнозы

N+1
Опасный аксессуар: нужно ли в доме снимать с собаки ошейник Опасный аксессуар: нужно ли в доме снимать с собаки ошейник

Так ли необходим ошейник на собаке в четырех стенах?

ТехИнсайдер
Самый гуманный сюр в мире Самый гуманный сюр в мире

10 самых сюрреалистичных советских мультфильмов

Weekend
Внутри рубина лазерный луч может отбрасывать тень при облучении другим лазером Внутри рубина лазерный луч может отбрасывать тень при облучении другим лазером

Световые мечи из «Звездных войнов» — не просто фантастика

ТехИнсайдер
Чистое место: как убираться в ванной и туалете правильно Чистое место: как убираться в ванной и туалете правильно

Лайфхаки по уборке ванной и туалета

Новый очаг
Маркетплейс для мобильных и спонтанных Маркетплейс для мобильных и спонтанных

О том, как платформа автопутешествий создает у туристов новые потребности

Монокль
Как сериал «Ничего не говори» рассказывает о конфликте в Северной Ирландии Как сериал «Ничего не говори» рассказывает о конфликте в Северной Ирландии

«Ничего не говори»: трагедия Джин МакКонвилл и теракт в Северной Ирландии

Forbes
Дело жизни Дело жизни

Известные шеф-повара об их истоках и пути в профессии

Grazia
Код света и музыки Код света и музыки

Современное искусство открывает новые направления. Одно из них — медиативный арт

ЖАРА Magazine
Как за каменной стеной Как за каменной стеной

Почему города становятся заповедниками для редких животных

N+1
Игорь Цвирко и Кристина Кретова: «Стекла в пуантах – это глупость» Игорь Цвирко и Кристина Кретова: «Стекла в пуантах – это глупость»

Солистка Большого Кристина Кретова и премьер Игорь Цвирко ведут друг друга

VOICE
15 советов, которые помогут получить повышение 15 советов, которые помогут получить повышение

Как выделиться на фоне коллег и стать по-настоящему ценным сотрудником?

Psychologies
Открыть в приложении