Что такое дипфейки и насколько они могут быть опасны

PsychologiesHi-Tech

Как играют умершие актеры: что такое дипфейк

В апреле 2022 года на Первом канале вышло продолжение сериала «Диверсант», одну из ролей в котором сыграл актер Владислав Галкин, умерший в 2010 году. Как это возможно? Оказывается, реалистично спародировать любого человека способна технология deepfake. Рассказываем, что это такое и насколько опасны могут быть дипфейки.

Текст: Мария Горшкова

960x540_0xac120003_14342512241656417017.jpeg
Дипфейк Владислава Галкина, фото: Кадр из сериала «Диверсант» 2022 г.

Как работает технология deepfake

Технология deepfake при помощи нейронных сетей анализирует большие массивы данных, чтобы имитировать выражение лица, манеры, голос и интонации человека. Процесс включает в себя передачу отснятого материала двух людей в алгоритм глубокого обучения, чтобы научить его менять лица местами.

При выполнении данной технологии компьютерное программное обеспечение выполняет бесшовное наложение какого-либо человеческого лица на убедительное виртуальное факсимиле. Таким образом создаются аудиовизуальные мистификации, бросающие вызов достоверности информации.

Технологические прорывы в области машинного обучения позволили создавать аудиовизуальные подделки с большой реалистичностью и масштабом. В частности, эти прорывы стали возможными благодаря двум достижениям: появлению больших наборов данных и разработке Генеративных состязательных сетей (GAN) — категории моделей машинного обучения, где нейронные сети конкурируют друг с другом без присмотра.

Опасность дипфейков возросла из-за способности GAN создавать очень реалистичные, поддельные медиапродукты в масштабе, используя большие наборы данных. Обученный GAN может делать сотни фотографий в секунду с различной детализацией, включая выражения мимики и разнообразие ракурсов для одного и того же сгенерированного лица.

Технология сама по себе не является злом. Она может приносить пользу, например, при создании видеоигр и улучшении астрономических изображений, на которых часто встречается шум от фона неба.

Чем нам угрожают дипфейки

Манипулятивные процессы, лежащие в основе дипфейков, все чаще вызывают этические вопросы, касающиеся производства медиаконтента. На данный момент дипфейки не способны полностью обмануть глаз, но, как и у любой технологии глубокого обучения, у данной технологии вполне могут возникнуть большие успехи в ближайшем будущем, когда медиаподделки станут неотличимы от настоящих.

Так, продукты технологии deepfake впервые появились на популярной интернет-платформе reddit.com, когда пользователь под ником «deepfakes» опубликовал порнографические видеоролики с лицами известных голливудских актрис, которые наложили поверх лиц оригинальных звезд фильмов для взрослых. Такие случаи прямо нарушают право человека на частную жизнь и могут повлечь за собой разрушение карьеры и семейных отношений людей, ставших объектами дипфейков.

397x505_0xac120003_1772597921656418597.jpeg
Образец набора данных для обучения ИИ, фото: Источник: Yasrab, R., Jiang, W., & Riaz, A. (2021). Fighting Deepfakes Using Body Language Analysis. Forecasting, 3(2), 303–321

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

еуые

Рекомендуемые статьи

Как вернуть любовь к близким людям: советы психолога на примерах из жизни Как вернуть любовь к близким людям: советы психолога на примерах из жизни

Как вернуть в отношения с близкими гармонию? Разбираемся вместе с психологом

Psychologies
Как сериал «Этим летом я стала красивой» продвигает патриархальные стереотипы о любви Как сериал «Этим летом я стала красивой» продвигает патриархальные стереотипы о любви

«Этим летом я стала красивой» — сериал, снятый по сценарным ходам из 1990-х

Forbes
Опасная иллюзия: почему не стоит путать искусственный интеллект с чат-ботами Опасная иллюзия: почему не стоит путать искусственный интеллект с чат-ботами

ИИ — спаситель человечества или его зловещий повелитель?

Forbes
Самую большую кувшинку в мире признали отдельным видом Самую большую кувшинку в мире признали отдельным видом

Самая большая кувшинка растет только на севере Боливии

N+1
Что говорит о нас наш дом Что говорит о нас наш дом

Организуя свой дом, мы воплощаем наши неосознанные влечения и инстинкты

Psychologies
Уникальный экспериментальный комплекс для исследования космических лучей: что общего у Москвы, Южного Полюса и Пампы Уникальный экспериментальный комплекс для исследования космических лучей: что общего у Москвы, Южного Полюса и Пампы

Уникальная научная установка «Экспериментальный комплекс НЕВОД»

ТехИнсайдер
Смазанный эффект ВТО Смазанный эффект ВТО

Россия не смогла воспользоваться всеми преимуществами членства в ВТО

Агроинвестор
«Серийный бабник ее обманул!»: почему Эмили Ратаковски решила развестись с продюсером «Серийный бабник ее обманул!»: почему Эмили Ратаковски решила развестись с продюсером

Эмили Ратаковски рассталась продюсером Себастьяном Беар-МакКлардом

VOICE
3 причины, по которым собаки наклоняют головы вбок 3 причины, по которым собаки наклоняют головы вбок

Собаки частенько наклоняют головы вбок в самых разных ситуациях. Но зачем?

ТехИнсайдер
Физики измерили теплопроводность сферической картошки и помидоров Физики измерили теплопроводность сферической картошки и помидоров

Физики описали дешевый метод измерения коэффициента теплопроводности у фруктов

N+1
История одного здания: Северный речной вокзал История одного здания: Северный речной вокзал

Северный речной вокзал называют одним из лучших примеров сталинского ампира

Культура.РФ
Незабываемый вкус детства: 10 продуктов СССР, которые покинули наши прилавки Незабываемый вкус детства: 10 продуктов СССР, которые покинули наши прилавки

Пусть они покинули прилавки, но не наши сердца

ТехИнсайдер
Новости медицины Новости медицины

Почему люди не вакцинируются и как здоровье зависит от целеустремленности

Лиза
Только о хорошем: 5 книг, которые помогут избавиться от детских травм Только о хорошем: 5 книг, которые помогут избавиться от детских травм

Книги, которые помогут проработать токсичное прошлое

ТехИнсайдер
Ирина и Денис Клявер: Ирина и Денис Клявер:

Самонадеянный, самоуверенный, красивый нахал

Коллекция. Караван историй
Настольная книга идеального тренировочного партнера Настольная книга идеального тренировочного партнера

Какого напарника искать и как самому стать тем, кто раскроет силу в других

Men Today
Что делать, если кошка царапает мебель: 4 легких способа спасти диван Что делать, если кошка царапает мебель: 4 легких способа спасти диван

Как защитить свою мебель от пушистого негодника.

ТехИнсайдер
Кейт, которая гуляет сама по себе Кейт, которая гуляет сама по себе

Ее саму понимать уже давно перестали

Караван историй
Надежда Акулова: «Мой эталон — хлеб на закваске» Надежда Акулова: «Мой эталон — хлеб на закваске»

Шеф-пекарь — о тонкостях хлебного ремесла и исторических традициях

Bones
Дачная экзотика Дачная экзотика

Дюк, мушмула и еще 5 небанальных плодовых кустарников и деревьев для сада

Лиза
Скачок лягушки и духи инноваций: как вести бизнес в Африке Скачок лягушки и духи инноваций: как вести бизнес в Африке

В чем специфика работы в Африке?

Forbes
Иркутский монстр: как советский врач Василий Кулик стал маньяком, убивающим в полнолуние Иркутский монстр: как советский врач Василий Кулик стал маньяком, убивающим в полнолуние

Василий Кулик очень быстро получил кличку «Иркутский монстр»

VOICE
Клоны флуоресцирующей макаки помогли оценить безопасность точечного редактирования генома Клоны флуоресцирующей макаки помогли оценить безопасность точечного редактирования генома

Ученые выключили флуоресцентный белок у генно-модифицированных макак-резусов

N+1
Эффект Розенталя: как чужие ожидания формируют наше реальное поведение Эффект Розенталя: как чужие ожидания формируют наше реальное поведение

Как работает эффект Розенталя и к каким последствиям он может привести?

Forbes
Советские звезды VS современные модницы: кто лучше носит вещи из СССР Советские звезды VS современные модницы: кто лучше носит вещи из СССР

«Старый друг (старое платье) лучше новых двух». Сейчас объясним, почему!

VOICE
Дачникам на заметку: что лучше сажать в июле Дачникам на заметку: что лучше сажать в июле

Овощи и травы можно посадить в середине лета, чтобы получить осенний урожай

ТехИнсайдер
Последний бой кавалерии в истории: сражение у хутора Избушенский, 1942 год Последний бой кавалерии в истории: сражение у хутора Избушенский, 1942 год

Что нужно для победы в бою?

Maxim
Метавселенная — это хайп или будущее человечества? Отвечают разработчики и венчурные инвесторы Метавселенная — это хайп или будущее человечества? Отвечают разработчики и венчурные инвесторы

Чего в метавселенных больше — хайпа или смысла?

Inc.
Сбежавший пылесос и робот-шахматист, сломавший ребенку палец: 5 случаев, подтверждающих, что восстание машин уже близко Сбежавший пылесос и робот-шахматист, сломавший ребенку палец: 5 случаев, подтверждающих, что восстание машин уже близко

Некоторые роботы уже начали показывать свой воинственный нрав

ТехИнсайдер
Поверхностный гастрит Поверхностный гастрит

Что такое поверхностный гастрит и как его лечить

Лиза
Открыть в приложении