Дипфейки: можно ли обезопасить себя от мошенников?

Inc.Hi-Tech

Как мошенники используют дипфейки и почему не стоит выкладывать в интернет свои фотографии

Текст: Индира Жарова, руководитель агентства видеоновостей Ruptly. Фото: GuerrillaBuzz, Unsplash

guerrillabuzz-NwD_UggDGs-unsplash.jpg

В эпоху стремительного развития технологий создания и распространения видеоконтента, который сегодня является одним из основных инструментов передачи информации, на повестке дня часто возникает проблема отличия подлинных видео от дипфейков. Дипфейк (от англ. deep learning — глубинное обучение, fake — подделка) — это метод синтеза контента, вырабатываемый посредством машинного обучения и искусственного интеллекта. Для его создания не требуется много информации, достаточно лишь фотографии, видео или записи голоса человека, далее — дело за нейросетью. Как злоумышленники используют технологию в своих целях и можно ли обезопасить себя от них, разобралась для Inc. руководитель российского агентства видеоновостей Ruptly Индира Жарова.

Количество фейковых видео, порождающих ложные инфоповоды, стремительно растет, они становятся все более правдоподобными и труднодоступными для выявления. Если ранее эта технология использовалась для развлечения публики интригующим контентом о селебрити, то в текущей мировой обстановке она задействуется с целью влияния на политику, совершения манипулятивных действий и дезинформирования общественности.

С их распространением возникает все больше случаев „дискредитации” влиятельных личностей. Если не предавать эту проблему активному освещению в информационных источниках и не продумывать эффективные схемы противодействия, в дальнейшем такие видео и вовсе смогут стать угрозой национальной и международной безопасности.

С чего все началось?

Главным виновником появления подобных видео стал искусственный интеллект и его быстро развивающиеся возможности. В числе первых ИИ-моделей, посредством которых создавались первые дипфейки, стала уже всем известная GAN — генеративно-состязательная нейросеть, разработанная в 2014 году американским айтишником Яном Гудфеллоу и его командой. Производительность этой модели поддерживается двумя конкурирующими нейронными сетями — «генератором» случайных реалистичных изображений и «дискриминатором», который отделяет фейковые материалы от подлинных.

Создание дипфейка включает в себя несколько этапов: сбор данных, обучение модели и итоговую реализацию. Для начала требуется большое количество изображений и/или видео человека, который будет заменен на подделке. Затем генератор и дискриминатор обучаются на этих данных, чтобы лучше воспроизводить лицо или голос человека. После обучения модель способна заменять лицо одного человека лицом другого в видео или аудио с высокой степенью реализма.

Первые сгенерированные с помощью ИИ дипфейки появились в 2017 году. Тогда резонансный кейс с применением усовершенствованной технологии связывали с пользователем, который опубликовал на Reddit несколько интимных роликов с участием фальшивых обнаженных звезд, в числе которых — Скарлетт Йоханссон, Эмма Уотсон и другие. Год спустя в сети появилось поддельное видео с Бараком Обамой, произносящим речь, в которой он назвал занимавшего на тот момент должность президента Дональда Трампа «полным идиотом». Этот ролик, созданный с использованием дипфейк-технологии, показывает, насколько реалистичными могут быть подделки и как их можно использовать для манипуляции общественным мнением. Видео было создано американским актером Джорданом Пилом и медиакомпанией BuzzFeed с целью показать опасность дипфейков.

В 2019 году дипфейк-манипуляции оказался подвержен соучредитель и главный исполнительный директор Meta* [признана экстремистской организацией на территории России] Марк Цукерберг. В фейковом видео он «заявил» о том, как контролирует украденные данные миллионов пользователей.

Сегодня, благодаря автоматизации и доступности инструментов, процесс создания компрометирующего контента стал значительно проще для широкой аудитории. Существует множество приложений, позволяющих синтезировать дипфейки с минимальными техническими знаниями, например, DeepFaceLab, FaceSwap, Reface и многие другие. На Youtube можно легко найти туториалы, в которых доходчиво объясняется, как пользоваться подобными программами. То есть при желании сделать дипфейк может любой пользователь интернета. Но качество и убедительность будет зависеть от того, сколько пользователь будет обучаться работе с ИИ и от количества контента с лицом человека, который он «скормит» нейросети.

Так, дипфейк по простому гайду с Youtube вряд ли будет выглядеть достоверно. Но при должном усердии, изучении более продвинутых функций на форумах и обработке большого количества контента может получиться то, что некоторым пользователям будет довольно сложно отличить от реальности. Такие работы, уже можно сказать профессионалов, естественно, распознать сложнее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Ученые обнаружили особенность речи, которая указывает на раннюю стадию Альцгеймера Ученые обнаружили особенность речи, которая указывает на раннюю стадию Альцгеймера

Что может указывать на ранние стадии болезни Альцгеймера?

Inc.
Знали ли вы, что витамины можно «вдыхать» Знали ли вы, что витамины можно «вдыхать»

Почему мы чувствуем бодрость, когда вдыхаем свежий воздух на природе?

ТехИнсайдер
На седьмое небо за пиццей: удивительные факты о высотных вращающихся ресторанах На седьмое небо за пиццей: удивительные факты о высотных вращающихся ресторанах

Как работает это чудо строительной инженерии — высотные вращающиеся рестораны?

ТехИнсайдер
Тише едешь… Тише едешь…

Спуск на воду Silent 62 3-Deck — шаг на пути к успеху верфи Silent-Yachts

Y Magazine
Культурный виноград появился на Сардинии больше трех тысяч лет назад Культурный виноград появился на Сардинии больше трех тысяч лет назад

Самый ранний культурный виноград выращивали на Сардинии

N+1
Семь причин сонливости Семь причин сонливости

Спите 7–8 часов, а днём всё равно клюёте носом?

Здоровье
Для своих двоих Для своих двоих

Отекают ноги: самые частые причины и что делать в каждом случае

Лиза
От нефтеразведки до торговли: как российские компании применяют нейросети От нефтеразведки до торговли: как российские компании применяют нейросети

В каких сферах применяют ИИ и каких результатов удалось добиться?

Inc.
Просто само совершенство Просто само совершенство

Когда и почему погоня за идеалом мешает тебе быть счастливой

Лиза
Культура публичной порки: почему мы так любим «казнить» провинившихся знаменитостей Культура публичной порки: почему мы так любим «казнить» провинившихся знаменитостей

Глава из книги Джонатана Сакса — о культуре отмены и самосуде

Psychologies
Крутые ПК-игры на двоих на одном компьютере: топ-10 проектов для нескучного вечера Крутые ПК-игры на двоих на одном компьютере: топ-10 проектов для нескучного вечера

Сегодня все еще есть игры, в которые можно сыграть вдвоем на одном компьютере

CHIP
Отражение — это еще не вы: что такое зеркальное «Я» и как увидеть себя в мире фейков и фильтров Отражение — это еще не вы: что такое зеркальное «Я» и как увидеть себя в мире фейков и фильтров

Когда вы смотрите в зеркало, что вы видите?

Psychologies
Любовь и виноград Любовь и виноград

Когда сыну поставили диагноз, его мама думала, что о работе можно забыть. И зря!

Новый очаг
Складская дюжина Складская дюжина

В корпорации Amazon сегодня трудится более чем 750 тыс. роботов

ТехИнсайдер
Бородавки от лягушек и плохое зрение от чтения в темноте: 7 мифов, в которые мы верили в детстве Бородавки от лягушек и плохое зрение от чтения в темноте: 7 мифов, в которые мы верили в детстве

Мифы, в которые многие из нас верили с детства

ТехИнсайдер
«Хоспис — это дом, где берегут жизнь, сколько бы ее ни осталось»: отрывок из книги сотрудников фонда «Вера» «Хоспис — это дом, где берегут жизнь, сколько бы ее ни осталось»: отрывок из книги сотрудников фонда «Вера»

Отрывок из книги «Настоящее время», написанной сотрудниками фонда «Вера»

СНОБ
Записки из раскопа Записки из раскопа

Как жители средневекового Новгорода передавали сообщения

Вокруг света
Как превратить «недоотношения» в отношения? Попробуйте «суповой тест» Как превратить «недоотношения» в отношения? Попробуйте «суповой тест»

Как «суповой тест» поможет прояснить отношения?

Psychologies
Как поддержать близкого с ПТСР в острый момент: практическое руководство Как поддержать близкого с ПТСР в острый момент: практическое руководство

Практические шаги, которые помогут оказать поддержку при остром приступе ПТСР

Psychologies
Построить свое королевство Построить свое королевство

Есть у каждой семьи давняя история, о которой мы знаем или догадываемся

Psychologies
NASA испытало прототип робота для поиска жизни в океане Европы NASA испытало прототип робота для поиска жизни в океане Европы

NASA испытало прототип робота для поиска жизни в океане Европы

N+1
Звезда Амуры Звезда Амуры

Чувства, эмоции, предчувствия и чутье в жизни Аскара Ильясова

Men Today
Роман Мадянов: «В моей жизни все решал Его величество господин великий случай» Роман Мадянов: «В моей жизни все решал Его величество господин великий случай»

Люди меня встречают и в большинстве случаев просят: «Можно пожать вашу руку?»

Коллекция. Караван историй
Жизнь как путешествие со своим домом Жизнь как путешествие со своим домом

Как предприниматель перепридумал, что такое коттедж

Монокль
Конец «дачного» сезона Конец «дачного» сезона

Dacia Bigster: какую европейскую «Ниву» мы потеряли

Автопилот
Этот всеми любимый напиток повышает риск развития деменции в 3 раза: лучше не злоупотреблять! Этот всеми любимый напиток повышает риск развития деменции в 3 раза: лучше не злоупотреблять!

У людей, употребляющих этот напиток ежедневно, наблюдается снижение памяти

ТехИнсайдер
Хватит есть! Хватит есть!

8 неочевидных причин, почему мы переедаем

Лиза
Как включить обогрев заднего стекла и что делать, если он не работает Как включить обогрев заднего стекла и что делать, если он не работает

Как включается обогрев заднего стекла и почему он может не работать

РБК
Уют по-мужски Уют по-мужски

Элегантный и сдержанный интерьер для бизнесмена

SALON-Interior
«Банки переориентируются на транзакционно-сберегательную модель бизнеса» «Банки переориентируются на транзакционно-сберегательную модель бизнеса»

Как банки развивают розничный бизнес и на какие продукты и услуги делают ставку

Деньги
Открыть в приложении