Дипфейки: можно ли обезопасить себя от мошенников?

Inc.Hi-Tech

Как мошенники используют дипфейки и почему не стоит выкладывать в интернет свои фотографии

Текст: Индира Жарова, руководитель агентства видеоновостей Ruptly. Фото: GuerrillaBuzz, Unsplash

guerrillabuzz-NwD_UggDGs-unsplash.jpg

В эпоху стремительного развития технологий создания и распространения видеоконтента, который сегодня является одним из основных инструментов передачи информации, на повестке дня часто возникает проблема отличия подлинных видео от дипфейков. Дипфейк (от англ. deep learning — глубинное обучение, fake — подделка) — это метод синтеза контента, вырабатываемый посредством машинного обучения и искусственного интеллекта. Для его создания не требуется много информации, достаточно лишь фотографии, видео или записи голоса человека, далее — дело за нейросетью. Как злоумышленники используют технологию в своих целях и можно ли обезопасить себя от них, разобралась для Inc. руководитель российского агентства видеоновостей Ruptly Индира Жарова.

Количество фейковых видео, порождающих ложные инфоповоды, стремительно растет, они становятся все более правдоподобными и труднодоступными для выявления. Если ранее эта технология использовалась для развлечения публики интригующим контентом о селебрити, то в текущей мировой обстановке она задействуется с целью влияния на политику, совершения манипулятивных действий и дезинформирования общественности.

С их распространением возникает все больше случаев „дискредитации” влиятельных личностей. Если не предавать эту проблему активному освещению в информационных источниках и не продумывать эффективные схемы противодействия, в дальнейшем такие видео и вовсе смогут стать угрозой национальной и международной безопасности.

С чего все началось?

Главным виновником появления подобных видео стал искусственный интеллект и его быстро развивающиеся возможности. В числе первых ИИ-моделей, посредством которых создавались первые дипфейки, стала уже всем известная GAN — генеративно-состязательная нейросеть, разработанная в 2014 году американским айтишником Яном Гудфеллоу и его командой. Производительность этой модели поддерживается двумя конкурирующими нейронными сетями — «генератором» случайных реалистичных изображений и «дискриминатором», который отделяет фейковые материалы от подлинных.

Создание дипфейка включает в себя несколько этапов: сбор данных, обучение модели и итоговую реализацию. Для начала требуется большое количество изображений и/или видео человека, который будет заменен на подделке. Затем генератор и дискриминатор обучаются на этих данных, чтобы лучше воспроизводить лицо или голос человека. После обучения модель способна заменять лицо одного человека лицом другого в видео или аудио с высокой степенью реализма.

Первые сгенерированные с помощью ИИ дипфейки появились в 2017 году. Тогда резонансный кейс с применением усовершенствованной технологии связывали с пользователем, который опубликовал на Reddit несколько интимных роликов с участием фальшивых обнаженных звезд, в числе которых — Скарлетт Йоханссон, Эмма Уотсон и другие. Год спустя в сети появилось поддельное видео с Бараком Обамой, произносящим речь, в которой он назвал занимавшего на тот момент должность президента Дональда Трампа «полным идиотом». Этот ролик, созданный с использованием дипфейк-технологии, показывает, насколько реалистичными могут быть подделки и как их можно использовать для манипуляции общественным мнением. Видео было создано американским актером Джорданом Пилом и медиакомпанией BuzzFeed с целью показать опасность дипфейков.

В 2019 году дипфейк-манипуляции оказался подвержен соучредитель и главный исполнительный директор Meta* [признана экстремистской организацией на территории России] Марк Цукерберг. В фейковом видео он «заявил» о том, как контролирует украденные данные миллионов пользователей.

Сегодня, благодаря автоматизации и доступности инструментов, процесс создания компрометирующего контента стал значительно проще для широкой аудитории. Существует множество приложений, позволяющих синтезировать дипфейки с минимальными техническими знаниями, например, DeepFaceLab, FaceSwap, Reface и многие другие. На Youtube можно легко найти туториалы, в которых доходчиво объясняется, как пользоваться подобными программами. То есть при желании сделать дипфейк может любой пользователь интернета. Но качество и убедительность будет зависеть от того, сколько пользователь будет обучаться работе с ИИ и от количества контента с лицом человека, который он «скормит» нейросети.

Так, дипфейк по простому гайду с Youtube вряд ли будет выглядеть достоверно. Но при должном усердии, изучении более продвинутых функций на форумах и обработке большого количества контента может получиться то, что некоторым пользователям будет довольно сложно отличить от реальности. Такие работы, уже можно сказать профессионалов, естественно, распознать сложнее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Японские ученые протестировали три способа пробуждения и выяснили, как избавиться от сонливости по утрам Японские ученые протестировали три способа пробуждения и выяснили, как избавиться от сонливости по утрам

Как изменение освещения в спальне поможет избавить от сонливости по утрам

Inc.
Этот всеми любимый напиток повышает риск развития деменции в 3 раза: лучше не злоупотреблять! Этот всеми любимый напиток повышает риск развития деменции в 3 раза: лучше не злоупотреблять!

У людей, употребляющих этот напиток ежедневно, наблюдается снижение памяти

ТехИнсайдер
Революционное продвижение: как бизнесу попасть в ответы нейросетей Революционное продвижение: как бизнесу попасть в ответы нейросетей

Как сформировать цифровой след, который читают нейросети

Forbes
Даня Крастер: «Я заболел алкоголизмом и был отчислен из строительного — теперь зудит по поводу этого» Даня Крастер: «Я заболел алкоголизмом и был отчислен из строительного — теперь зудит по поводу этого»

Даня Крастер: невероятный разговор о популярной науке и любви ко всему новому

Maxim
Любовь или зависимость? 7 признаков нездоровых отношений Любовь или зависимость? 7 признаков нездоровых отношений

Как отличить истинные чувства от зависимости, способной разрушать нас изнутри?

VOICE
Дама и осьминоги: как Жанна Вильпре-Пауэр придумала аквариумы и исследовала моллюсков Дама и осьминоги: как Жанна Вильпре-Пауэр придумала аквариумы и исследовала моллюсков

Жанна Вильпре-Пауэр провела детство в глубинке, но связала свою жизнь с морем

Forbes
«Я терпеливо жду в засаде» «Я терпеливо жду в засаде»

Маргарита Чинкова — о том, как заработать на офертах, допэмиссиях и ликвидациях

Монокль
Любимчик фортуны Любимчик фортуны

10 способов приманить удачу и стать успешной

Лиза
Болотный хлопок Болотный хлопок

Пушица — растение с мягким пушком, которое растёт на болотах

Наука и жизнь
Заводские настройки Заводские настройки

Заводские настройки фэшн-индустрии

Grazia
Темная сторона силы: что скрывается за успехом ярких предпринимателей Темная сторона силы: что скрывается за успехом ярких предпринимателей

За историей успешного предпринимателя стоят не только визионерские прозрения

Forbes
«Нас очень быстро догнала реальность» «Нас очень быстро догнала реальность»

Анна Кузнецова о своем дебютном фильме «Каникулы»

Weekend
7 трюков, которые надо знать, если ты хочешь накрасить ногти лаком с блестками 7 трюков, которые надо знать, если ты хочешь накрасить ногти лаком с блестками

Любишь блеск и гламур? Понимаем и одобряем!

VOICE
Почему локальные марки парфюма не смогли занять рынок после ухода иностранных игроков Почему локальные марки парфюма не смогли занять рынок после ухода иностранных игроков

Почему отечественные компании не смогли занять освободившееся место в парфюмерии

Forbes
Складская дюжина Складская дюжина

В корпорации Amazon сегодня трудится более чем 750 тыс. роботов

ТехИнсайдер
«Окольцованная» Земля «Окольцованная» Земля

Где планеты находят свои кольца? Могли ли они быть и у Земли?

Наука и жизнь
«Ты настоящая молния»: как Билли Джин Кинг помогла создать женскую хоккейную лигу «Ты настоящая молния»: как Билли Джин Кинг помогла создать женскую хоккейную лигу

Как Билли Джин Кинг реализовала мечту более 200 хоккеисток

Forbes
Как справляться с телесным дискомфортом при тревоге и других неприятных эмоциях: пошаговая инструкция Как справляться с телесным дискомфортом при тревоге и других неприятных эмоциях: пошаговая инструкция

Фрагмент из книги «Я и мои эмоции» Хесус Ларринага

Psychologies
Помогает ли коллаген здоровью суставов и кожи Помогает ли коллаген здоровью суставов и кожи

Что такое коллаген? Нужно ли его пить для здоровья кожи?

ТехИнсайдер
Во власти эмоций Во власти эмоций

В чем разница между воришкой и клептоманом?

Лиза
Равнение на середину Равнение на середину

Простые упражнения для тонкой талии и плоского живота

Лиза
В Европу через Океанию: как получить ВНЖ в Греции с помощью паспорта Вануату В Европу через Океанию: как получить ВНЖ в Греции с помощью паспорта Вануату

Почему востребован ВНЖ Греции и какую роль тут играет паспорт Вануату

Forbes
Почему музыка из вашей молодости — лучше? Узнайте интересный ответ ученых! Почему музыка из вашей молодости — лучше? Узнайте интересный ответ ученых!

В чем секрет привлекательности музыки из молодости?

ТехИнсайдер
Боязнь чистого листа Боязнь чистого листа

Трансформация из художника в дизайнера: путь Кристиано Гатто

Y Magazine
«Шугар», «Заговор сестер Гарви», «Плохая обезьяна»: лучшие новые детективные сериалы «Шугар», «Заговор сестер Гарви», «Плохая обезьяна»: лучшие новые детективные сериалы

Новые детективы, которые невозможно выключить, не узнав, кто же убийца

Forbes
На кону Трамп На кону Трамп

«Ученик. Восхождение Трампа»: рассказ о молодых годах Дональда Трампа

Weekend
На острове Диско найден возможный источник фосфора для возникновения первых живых организмов На острове Диско найден возможный источник фосфора для возникновения первых живых организмов

Магма могла стать источником фосфора для возникновения первых живых организмов

Знание – сила
Робоголубь с настоящими перьями в крыльях и хвосте научился летать по-птичьи Робоголубь с настоящими перьями в крыльях и хвосте научился летать по-птичьи

Робоголубь управляет полетом за счет изменения формы крыльев и поворотов хвоста

N+1
Итальянцы будут в шоке: 10 самых необычных пицц, которые можно попробовать в разных уголках мира Итальянцы будут в шоке: 10 самых необычных пицц, которые можно попробовать в разных уголках мира

Странные начинки для пицц, которые можно встретить в разных заведениях мира

ТехИнсайдер
У банков появился интеллект. Искусственный У банков появился интеллект. Искусственный

Крупнейшие банки почти достигли пределов развития в финансовой сфере

Монокль
Открыть в приложении