Дипфейки: можно ли обезопасить себя от мошенников?

Inc.Hi-Tech

Как мошенники используют дипфейки и почему не стоит выкладывать в интернет свои фотографии

Текст: Индира Жарова, руководитель агентства видеоновостей Ruptly. Фото: GuerrillaBuzz, Unsplash

guerrillabuzz-NwD_UggDGs-unsplash.jpg

В эпоху стремительного развития технологий создания и распространения видеоконтента, который сегодня является одним из основных инструментов передачи информации, на повестке дня часто возникает проблема отличия подлинных видео от дипфейков. Дипфейк (от англ. deep learning — глубинное обучение, fake — подделка) — это метод синтеза контента, вырабатываемый посредством машинного обучения и искусственного интеллекта. Для его создания не требуется много информации, достаточно лишь фотографии, видео или записи голоса человека, далее — дело за нейросетью. Как злоумышленники используют технологию в своих целях и можно ли обезопасить себя от них, разобралась для Inc. руководитель российского агентства видеоновостей Ruptly Индира Жарова.

Количество фейковых видео, порождающих ложные инфоповоды, стремительно растет, они становятся все более правдоподобными и труднодоступными для выявления. Если ранее эта технология использовалась для развлечения публики интригующим контентом о селебрити, то в текущей мировой обстановке она задействуется с целью влияния на политику, совершения манипулятивных действий и дезинформирования общественности.

С их распространением возникает все больше случаев „дискредитации” влиятельных личностей. Если не предавать эту проблему активному освещению в информационных источниках и не продумывать эффективные схемы противодействия, в дальнейшем такие видео и вовсе смогут стать угрозой национальной и международной безопасности.

С чего все началось?

Главным виновником появления подобных видео стал искусственный интеллект и его быстро развивающиеся возможности. В числе первых ИИ-моделей, посредством которых создавались первые дипфейки, стала уже всем известная GAN — генеративно-состязательная нейросеть, разработанная в 2014 году американским айтишником Яном Гудфеллоу и его командой. Производительность этой модели поддерживается двумя конкурирующими нейронными сетями — «генератором» случайных реалистичных изображений и «дискриминатором», который отделяет фейковые материалы от подлинных.

Создание дипфейка включает в себя несколько этапов: сбор данных, обучение модели и итоговую реализацию. Для начала требуется большое количество изображений и/или видео человека, который будет заменен на подделке. Затем генератор и дискриминатор обучаются на этих данных, чтобы лучше воспроизводить лицо или голос человека. После обучения модель способна заменять лицо одного человека лицом другого в видео или аудио с высокой степенью реализма.

Первые сгенерированные с помощью ИИ дипфейки появились в 2017 году. Тогда резонансный кейс с применением усовершенствованной технологии связывали с пользователем, который опубликовал на Reddit несколько интимных роликов с участием фальшивых обнаженных звезд, в числе которых — Скарлетт Йоханссон, Эмма Уотсон и другие. Год спустя в сети появилось поддельное видео с Бараком Обамой, произносящим речь, в которой он назвал занимавшего на тот момент должность президента Дональда Трампа «полным идиотом». Этот ролик, созданный с использованием дипфейк-технологии, показывает, насколько реалистичными могут быть подделки и как их можно использовать для манипуляции общественным мнением. Видео было создано американским актером Джорданом Пилом и медиакомпанией BuzzFeed с целью показать опасность дипфейков.

В 2019 году дипфейк-манипуляции оказался подвержен соучредитель и главный исполнительный директор Meta* [признана экстремистской организацией на территории России] Марк Цукерберг. В фейковом видео он «заявил» о том, как контролирует украденные данные миллионов пользователей.

Сегодня, благодаря автоматизации и доступности инструментов, процесс создания компрометирующего контента стал значительно проще для широкой аудитории. Существует множество приложений, позволяющих синтезировать дипфейки с минимальными техническими знаниями, например, DeepFaceLab, FaceSwap, Reface и многие другие. На Youtube можно легко найти туториалы, в которых доходчиво объясняется, как пользоваться подобными программами. То есть при желании сделать дипфейк может любой пользователь интернета. Но качество и убедительность будет зависеть от того, сколько пользователь будет обучаться работе с ИИ и от количества контента с лицом человека, который он «скормит» нейросети.

Так, дипфейк по простому гайду с Youtube вряд ли будет выглядеть достоверно. Но при должном усердии, изучении более продвинутых функций на форумах и обработке большого количества контента может получиться то, что некоторым пользователям будет довольно сложно отличить от реальности. Такие работы, уже можно сказать профессионалов, естественно, распознать сложнее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Я понял, что хочу работать не с туристами, а с горожанами». Создатель «Глазами инженера»  о том, как заработать 200 млн руб. на экскурсиях «Я понял, что хочу работать не с туристами, а с горожанами». Создатель «Глазами инженера»  о том, как заработать 200 млн руб. на экскурсиях

Создатель «Глазами инженера» — о том, как выгодно заниматься любимым делом

Inc.
Островок покоя Островок покоя

7 лучших идей для оформления зимнего балкона

Лиза
Дорого и сложно: что тормозит внедрение ИИ в медицину Дорого и сложно: что тормозит внедрение ИИ в медицину

Почему внедрение инноваций в медицине происходит так медленно?

Forbes
Это нужно знать перед операцией! Вот как работает анестезия: интересные факты Это нужно знать перед операцией! Вот как работает анестезия: интересные факты

Что происходит с телом человека под воздействием анестезии?

ТехИнсайдер
Бухенвальдская ведьма: история Ильзы Кох, одного из крупнейших монстров Холокоста Бухенвальдская ведьма: история Ильзы Кох, одного из крупнейших монстров Холокоста

Ильза Кох — одна из самых жестких представительниц гитлеровского режима

ТехИнсайдер
Свидание с Россией Свидание с Россией

Успешные россияне рассказали о близких их сердцу регионах

RR Люкс.Личности.Бизнес.
«Погрузишь легочного, а привозишь с заворотом кишок!» Что говорили водители про первый советский грузовик АМО «Погрузишь легочного, а привозишь с заворотом кишок!» Что говорили водители про первый советский грузовик АМО

Посмотрите на историю первенца автопрома СССР глазами живых очевидцев

ТехИнсайдер
Зубы мудрости: почему взрослым не нужно бояться носить брекеты и элайнеры Зубы мудрости: почему взрослым не нужно бояться носить брекеты и элайнеры

Почему почему элайнеры и брекеты — повод для восхищения, а не ухмылки

Forbes
Геродот ошибался: армяне произошли не с Балкан, а из Леванта Геродот ошибался: армяне произошли не с Балкан, а из Леванта

Древнегреческий историк ошибался: армяне происходят не с Балкан

ТехИнсайдер
Художник Артур Кривошеин: «Мне нравится ностальгировать» Художник Артур Кривошеин: «Мне нравится ностальгировать»

Художник Артур Кривошеин — об авангардистах и неизбежных изменениях

СНОБ
Наука о счастье: какой может быть хэппиномика Наука о счастье: какой может быть хэппиномика

Какой может быть наука о счастье и что она способна дать человечеству?

Forbes
Север и Юг США: долгий путь к войне Север и Юг США: долгий путь к войне

Промышленная революция в Европе по-разному сказалась на южных и северных штатах

Наука и техника
Ангелина Стречина: «Я считаю себя везунчиком» Ангелина Стречина: «Я считаю себя везунчиком»

У меня возникли сомнения: действительно ли мне доверяют, не ошиблись ли?

Коллекция. Караван историй
Алмаз из пробирки Алмаз из пробирки

Российские ювелиры — о лабораторно выращенных бриллиантах

RR Люкс.Личности.Бизнес.
Объект неустанного разоблачения Объект неустанного разоблачения

Тайная полиция, спрятанные сокровища и другие мифы о Ватикане

Weekend
Уют по-мужски Уют по-мужски

Элегантный и сдержанный интерьер для бизнесмена

SALON-Interior
Чем гиперзвук отличается от суперзвука: то, что вы давно хотели знать, но стеснялись спросить Чем гиперзвук отличается от суперзвука: то, что вы давно хотели знать, но стеснялись спросить

Есть ли скорость еще более высокая, чем гиперзвуковая?

ТехИнсайдер
Бьюти для мужчин: как работает косметология для сильного пола и почему они такие требовательные Бьюти для мужчин: как работает косметология для сильного пола и почему они такие требовательные

Что происходит на набирающем популярность рынке мужской косметологии

Inc.
Зачем хвалить себя: эксперимент Зачем хвалить себя: эксперимент

Так ли плохо хвалить себя?

Psychologies
Как растения размножаются Как растения размножаются

Почему одни растения плодятся спорами, а другие семенами?

Наука и жизнь
Какие навыки нужны топ-менеджерам для обеспечения успеха и стабильности бизнеса — отвечают лидеры российских компаний Какие навыки нужны топ-менеджерам для обеспечения успеха и стабильности бизнеса — отвечают лидеры российских компаний

Какие навыки помогают топ-менеджерам развивать свои компании?

СНОБ
10 новых сериалов, от которых невозможно оторваться 10 новых сериалов, от которых невозможно оторваться

Лучшие сериалы начала 2020-х годов, которые проглотят все ваше свободное время

Maxim
Найди меня Найди меня

Зачем люди ищут свои корни и почему готовы платить за это огромные деньги

Grazia
Хватит есть! Хватит есть!

8 неочевидных причин, почему мы переедаем

Лиза
Альберт Эйнштейн и Нильс Бор Альберт Эйнштейн и Нильс Бор

Элементы сравнительного жизнеописания

Наука и жизнь
Тёплое время: 20 идей для уютной атмосферы в семье Тёплое время: 20 идей для уютной атмосферы в семье

Идеи, которые помогут сделать ваше «время вместе» теплее, дружнее и интереснее

Новый очаг
«Все время чего-то не хватает для счастья»: как перестать гнаться за успехом и начать радоваться тому, что есть «Все время чего-то не хватает для счастья»: как перестать гнаться за успехом и начать радоваться тому, что есть

Как не потерять вкус к жизни в погоне за достижениями?

Psychologies
Риски трампфляции Риски трампфляции

Поможет ли инфляция в борьбе с глобальным долгом

Деньги
Не пытайтесь от него избавиться: 4 способа обратить синдром отличницы себе во благо Не пытайтесь от него избавиться: 4 способа обратить синдром отличницы себе во благо

С чем связан синдром отличницы? Какие у него последствия?

Psychologies
Лиза Моряк: «Если работаешь 24/7, нужно научиться находиться в потоке. Просто расслабиться и получать удовольствие» Лиза Моряк: «Если работаешь 24/7, нужно научиться находиться в потоке. Просто расслабиться и получать удовольствие»

Мне очень важно мое время, мое пространство, свобода, что я могу быть настоящей

Караван историй
Открыть в приложении