Что такое дипфейки и насколько они могут быть опасны

PsychologiesHi-Tech

Как играют умершие актеры: что такое дипфейк

В апреле 2022 года на Первом канале вышло продолжение сериала «Диверсант», одну из ролей в котором сыграл актер Владислав Галкин, умерший в 2010 году. Как это возможно? Оказывается, реалистично спародировать любого человека способна технология deepfake. Рассказываем, что это такое и насколько опасны могут быть дипфейки.

Текст: Мария Горшкова

960x540_0xac120003_14342512241656417017.jpeg
Дипфейк Владислава Галкина, фото: Кадр из сериала «Диверсант» 2022 г.

Как работает технология deepfake

Технология deepfake при помощи нейронных сетей анализирует большие массивы данных, чтобы имитировать выражение лица, манеры, голос и интонации человека. Процесс включает в себя передачу отснятого материала двух людей в алгоритм глубокого обучения, чтобы научить его менять лица местами.

При выполнении данной технологии компьютерное программное обеспечение выполняет бесшовное наложение какого-либо человеческого лица на убедительное виртуальное факсимиле. Таким образом создаются аудиовизуальные мистификации, бросающие вызов достоверности информации.

Технологические прорывы в области машинного обучения позволили создавать аудиовизуальные подделки с большой реалистичностью и масштабом. В частности, эти прорывы стали возможными благодаря двум достижениям: появлению больших наборов данных и разработке Генеративных состязательных сетей (GAN) — категории моделей машинного обучения, где нейронные сети конкурируют друг с другом без присмотра.

Опасность дипфейков возросла из-за способности GAN создавать очень реалистичные, поддельные медиапродукты в масштабе, используя большие наборы данных. Обученный GAN может делать сотни фотографий в секунду с различной детализацией, включая выражения мимики и разнообразие ракурсов для одного и того же сгенерированного лица.

Технология сама по себе не является злом. Она может приносить пользу, например, при создании видеоигр и улучшении астрономических изображений, на которых часто встречается шум от фона неба.

Чем нам угрожают дипфейки

Манипулятивные процессы, лежащие в основе дипфейков, все чаще вызывают этические вопросы, касающиеся производства медиаконтента. На данный момент дипфейки не способны полностью обмануть глаз, но, как и у любой технологии глубокого обучения, у данной технологии вполне могут возникнуть большие успехи в ближайшем будущем, когда медиаподделки станут неотличимы от настоящих.

Так, продукты технологии deepfake впервые появились на популярной интернет-платформе reddit.com, когда пользователь под ником «deepfakes» опубликовал порнографические видеоролики с лицами известных голливудских актрис, которые наложили поверх лиц оригинальных звезд фильмов для взрослых. Такие случаи прямо нарушают право человека на частную жизнь и могут повлечь за собой разрушение карьеры и семейных отношений людей, ставших объектами дипфейков.

397x505_0xac120003_1772597921656418597.jpeg
Образец набора данных для обучения ИИ, фото: Источник: Yasrab, R., Jiang, W., & Riaz, A. (2021). Fighting Deepfakes Using Body Language Analysis. Forecasting, 3(2), 303–321

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Лидерство в коллективе: как завоевать авторитет и доверие в группе? Лидерство в коллективе: как завоевать авторитет и доверие в группе?

Какие лидерские качества стоит развивать, чтобы завоевать доверие в группе

Psychologies
Спящий режим Спящий режим

Мы расскажем вам всё, что нужно знать про новые технологии, чтобы лучше спать

Men Today
Драгоценная наука: кто и зачем выращивает в лабораториях бриллианты Драгоценная наука: кто и зачем выращивает в лабораториях бриллианты

В чем заключается уникальность лабораторных бриллиантов?

Forbes
Учил инвесторов отличать порядочные фирмы от обманщиков и сам «надул» их на $71 млн: история нефтегазового мошенника Учил инвесторов отличать порядочные фирмы от обманщиков и сам «надул» их на $71 млн: история нефтегазового мошенника

Кристофер Фолкнер — как ему удалось обмануть доверчивых инвесторов

VC.RU
Тишина в голове: может ли человек какое-то время вообще ни о чем не думать? Тишина в голове: может ли человек какое-то время вообще ни о чем не думать?

Можем ли мы добиться абсолютной ментальной тишины в голове?

ТехИнсайдер
Шелк вместо микропластика: найден способ решить проблему загрязнения окружающей среды Шелк вместо микропластика: найден способ решить проблему загрязнения окружающей среды

Ученые предлагают использовать микрочастицы шелка вместо микропластика

ТехИнсайдер
10 признаков того, что ты психологически стабилен 10 признаков того, что ты психологически стабилен

Список, по которому можно определить — ты уже на пределе, или еще вывозишь

Maxim
Почему современные подростки редко влюбляются Почему современные подростки редко влюбляются

Почему подростки все реже обращаются к психологам с любовными переживаниями

СНОБ
Date rape drug: зачем женщинам подсыпают снотворное на свиданиях и вечеринках Date rape drug: зачем женщинам подсыпают снотворное на свиданиях и вечеринках

Как не стать жертвой изнасилования на свиданиях и вечеринках?

Forbes
Проверенные источники Проверенные источники

Отдых на водах идеально подходит для восстановления физических и душевных сил

Лиза
Физики сгенерировали ультрафиолетовый суперконтинуум с помощью газообразного азота Физики сгенерировали ультрафиолетовый суперконтинуум с помощью газообразного азота

Китайские физики сгенерировали ультрафиолетовый суперконтинуум

N+1
Неолитических жителей Словакии заподозрили в насилии над пожилой женщиной с плагиоцефалией Неолитических жителей Словакии заподозрили в насилии над пожилой женщиной с плагиоцефалией

Пожилая женщина могла подвергаться насилию из-за деформированного черепа

N+1
10 (на самом деле больше) лучших российских сериалов десятилетия 10 (на самом деле больше) лучших российских сериалов десятилетия

Список лучших отечественных сериалов — с 2010 года по наши дни

Правила жизни
Уроки русского: откуда взялось слово Уроки русского: откуда взялось слово

Почему водка так называется и когда появилась

ТехИнсайдер
Рождённые в СССР Рождённые в СССР

Этой осенью на экраны выйдет пятая серия “Рождённые в СССР”

Men Today
Почему когда мы хотим одного, то часто делаем совсем другое? Почему когда мы хотим одного, то часто делаем совсем другое?

Почему когда принимаемое решение имеет реальные последствия, люди бездействуют

ТехИнсайдер
Почему перед азартными играми так сложно устоять Почему перед азартными играми так сложно устоять

Дофамин, удача новичка и доступность — почему люди так любят азартные игры

ТехИнсайдер
Эпоха мушкетеров и не только: 5 лучших книг Александра Дюма Эпоха мушкетеров и не только: 5 лучших книг Александра Дюма

Культовые книги Александра Дюма, которые актуальны вне времени

ТехИнсайдер
«Мне стало казаться, что за мной следят спецслужбы»: история читательницы «Мне стало казаться, что за мной следят спецслужбы»: история читательницы

Что делать, если кажется, будто каждый наш шаг находится под чьим-то контролем?

Psychologies
Как сделать колонтитул в Ворде: простые способы для разных версий Как сделать колонтитул в Ворде: простые способы для разных версий

Как вставить колонтитулы на одной или нескольких страницах в Microsoft Word?

CHIP
Делаем так, чтоб точно клевало: 5 крутых и простых секретов рыболовства наших дедов Делаем так, чтоб точно клевало: 5 крутых и простых секретов рыболовства наших дедов

Как дедушки ловят рыбу на кирпич?

ТехИнсайдер

Бесценные рукописи и архивы с редкими фактами о жизни актера Петра Вельяминова

Коллекция. Караван историй
Галоскоп ORGAN не нашел аксионов массой от 63 до 67 микроэлектронвольт Галоскоп ORGAN не нашел аксионов массой от 63 до 67 микроэлектронвольт

Физики отчитались о первой фазе работы эксперимента ORGAN

N+1
Депиляция: как удалить волосы в салоне и дома. Советы эксперта Депиляция: как удалить волосы в салоне и дома. Советы эксперта

Рассказываем о самых актуальных методах депиляции

РБК
История одного здания: дом на Большой Садовой История одного здания: дом на Большой Садовой

В этом доме Булгаков поселил дьявольскую свиту в романе «Мастер и Маргарита»

Культура.РФ
Что делать если не нравятся овощи: лайфхаки правильного питания Что делать если не нравятся овощи: лайфхаки правильного питания

Что делать, если хочется правильно питаться, а овощи совсем не нравятся?

ТехИнсайдер
Два десятка «черных курильщиков» предупредили о возможном скором извержении в Тихом океане Два десятка «черных курильщиков» предупредили о возможном скором извержении в Тихом океане

Высокотемпературная гидротермальная система связана с молодым активным разломом

N+1
Причины возникновения и опасность анемии: всё о дефиците железа в организме Причины возникновения и опасность анемии: всё о дефиците железа в организме

Что такое анемия и как ее лечить?

VOICE
Айновы карусели Айновы карусели

Как живет единственная крупная в России колония атлантических тупиков

Наука и жизнь
До слез: эти 5 фильмов, основанных на реальных событиях, никого не оставят равнодушными До слез: эти 5 фильмов, основанных на реальных событиях, никого не оставят равнодушными

Пять картин с мотивирующими и вдохновляющими историями

ТехИнсайдер
Открыть в приложении