Что такое deepfake и опасен ли он на самом деле

Популярная механикаHi-Tech

Deepfake и как с ним бороться

Технологии, профессионально обманывающие человеческое восприятие, широко применяются в разных сферах. К примеру, В Южной Корее кандидата в президенты продвигают с помощью дипфейка. Что такое deepfake и опасен ли он на самом деле нам рассказал Александро Паркин, руководитель исследовательских проектов VisionLabs.

Не верь глазам своим, компьютер

Термин deepfake — от deep learning («глубокое обучение») и fake («подделка») — употребляется достаточно широко и обозначает практически любое изменение цифровых медиаданных с целью ввести в заблуждение компьютерную систему распознавания образов или живого наблюдателя. Например, вместо одного лица «приставить» к фигуре человека на видео другое (это называется Face Swap, замена лица), или же вместо довольной улыбки правдоподобно изобразить гримасу негодования (Face Reenactment, замена выражения лица).

Помимо deepfake, есть два основных вектора атак систем распознавания: на вычислительные алгоритмы и на сами камеры. К первому типу относятся Adversarial-атаки — тщательным образом подготовленные изменения входных данных, результатом которых становится выдача нейронной сетью ошибочного решения; скажем, когда изображение черепашки, для человека совершенно однозначное, машиной воспринимается как гоночный автомобиль. Атака «на камеру», пик популярности которой пришёлся на первые годы широкого распространения систем распознавания лиц это Liveness, подмена живого лица перед камерой его искусственным подобием — распечатанным на бумаге фото, портретным снимком на экране планшета, правдоподобно раскрашенной и напечатанной на 3D-принтере маской.

К счастью, современные системы распознавания уже неплохо умеют противостоять Liveness-атакам на уровне алгоритмов. Производится детальный анализ картинки в поисках особых признаков: для распечатанного фото это может быть обрез бумажного листа, для картинки на планшете — радужные блики от внешних источников света на ЖК-матрице и т. п. Стоящего перед камерой человека можно попросить покачать головой вверх-вниз, повернуться в разные стороны, чтобы повысить достоверность отождествления и заодно удостовериться, что «подмены лица» здесь нет.

0e3675c09e0bbbe3d7a850b3f8403e88.jpg

Ситуация несколько сложнее, если вычислительный модуль системы распознавания и камера не совмещены в одном корпусе (как у iPhone в случае Face ID или у системы Face Pay в Московском метрополитене), а взаимодействуют через Интернет. К примеру, человек в ходе Zoom-конференции с сотрудником банка оформляет кредит, и необходимо удостовериться тот ли он, за кого себя выдаёт и чьи документы предъявляет. Здесь уже возникает опасность перехвата трафика: злоумышленник имитирует на ПК изображение с виртуальной камеры, заменяя собственное

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

К вам санитары, мистер Андерсон К вам санитары, мистер Андерсон

Писатель Александр Цыпкин о наших цифровых аватарах

СНОБ
Еще бы Долбославом назвали: почему мы смеемся над необычными именами Еще бы Долбославом назвали: почему мы смеемся над необычными именами

Почему люди смеются над чужими именами и что это о них говорит?

VOICE
Ночной режим съемки в смартфоне: как творится волшебство Ночной режим съемки в смартфоне: как творится волшебство

Заглянем «под капот» режима ночной съемки в смартфоне

CHIP
Может ли цвет настроения стать зелёным? Может ли цвет настроения стать зелёным?

К вопросу о развитии цветообозначений в разных языках

Наука и жизнь
Марк Богатырев. Перезагрузка Марк Богатырев. Перезагрузка

Мне повезло испытать в жизни такую настоящую, трогательную, большую любовь

Коллекция. Караван историй
Секреты невербалики: как жесты и мимика невольно выдают нашу ложь Секреты невербалики: как жесты и мимика невольно выдают нашу ложь

наука, занимающаяся невербальными компонентами коммуникации

ТехИнсайдер
7 упражнений, которые помогут тебе получить «просвет» между бедрами 7 упражнений, которые помогут тебе получить «просвет» между бедрами

Упражнения, которые помогут тебе получить идеальный силуэт бедер

VOICE
«Гений места». Краткий гид по российским автохтонным винам «Гений места». Краткий гид по российским автохтонным винам

В чем уникальность атохтонных вин?

СНОБ
Зачем пользоваться раскоксовкой двигателя и как правильно это делать Зачем пользоваться раскоксовкой двигателя и как правильно это делать

Как и когда проводится раскоксовка мотора, всегда ли эта процедура полезна?

РБК
Скульптор Пьетро Кюфферле в Петербурге Скульптор Пьетро Кюфферле в Петербурге

Какие творения скульптора Пьетро Кюфферле остались в Петербурге

Наука и жизнь
Феликс Юсупов и Мария Романова: две яркие звезды на небосклоне парижской моды Феликс Юсупов и Мария Романова: две яркие звезды на небосклоне парижской моды

Феликс Юсупов и Мария Романова дополнили жизнерадостную историю моды

Вокруг света
Она написала убийство: восемь лучших сериалов и фильмов по книгам Агаты Кристи Она написала убийство: восемь лучших сериалов и фильмов по книгам Агаты Кристи

Лучшие экранизации романов и рассказов Агаты Кристи

Forbes
3 правила здорового и устойчивого снижения веса 3 правила здорового и устойчивого снижения веса

Cосредоточиться на трех базовых принципах разумного питания, чтобы похудеть

Psychologies
Как вера помогает радоваться жизни Как вера помогает радоваться жизни

Как вера помогает восстановить связь с окружающим миром

Psychologies
Смартфон подстроил интерфейс под расположение пальца по его отражению в глазах Смартфон подстроил интерфейс под расположение пальца по его отражению в глазах

Разработчики научили смартфоны подстраивать интерфейс под расположение пальца

N+1
Курс начинающего бёрдвотчера: 11 птиц России, которых можно увидеть, путешествуя под парусом Курс начинающего бёрдвотчера: 11 птиц России, которых можно увидеть, путешествуя под парусом

Рассказываем о пернатых, обитающих от Финского залива до Дальнего Востока

Вокруг света
Что нужно, чтобы сдать на права категории А Что нужно, чтобы сдать на права категории А

Как получить права на мотоцикл?

Maxim
9 пород собак, которые отлично ладят с кошками 9 пород собак, которые отлично ладят с кошками

Кошки и собаки — заклятые враги? Они могут быть заклятыми друзьями

Популярная механика
Умные алгоритмы онлайн-кинотеатров: как искусственный интеллект диктует нам, что посмотреть этим вечером Умные алгоритмы онлайн-кинотеатров: как искусственный интеллект диктует нам, что посмотреть этим вечером

Почему технологии искусственного интеллекта так важны для контентных платформ

Популярная механика
Где взять энергию Где взять энергию

Простые и эффективные способы, которые помогут подзарядить внутренние батарейки

Лиза
«Если у тебя есть фонтан, заткни его»: самые крылатые афоризмы Козьмы Пруткова, которые стыдно не знать «Если у тебя есть фонтан, заткни его»: самые крылатые афоризмы Козьмы Пруткова, которые стыдно не знать

Рожденные Козьмой Прутковым афоризмы не просто живы, но и злободневны

Maxim
Русская история итальянского архитектора Аристотеля Фиораванти Русская история итальянского архитектора Аристотеля Фиораванти

Аристотель Фиораванти стал первым итальянским архитектором при русском дворе

СНОБ
Худшие способы утешить человека в беде: 4 фразы Худшие способы утешить человека в беде: 4 фразы

Что нельзя говорить человеку, которому плохо?

Psychologies
В каких продуктах больше всего скрытого сахара: бдительность не повредит В каких продуктах больше всего скрытого сахара: бдительность не повредит

В каких продуктах много «тайного» сахара

Популярная механика
Нюансы обучения в зрелом возрасте, или Почему полезно заняться музыкой в 35 лет Нюансы обучения в зрелом возрасте, или Почему полезно заняться музыкой в 35 лет

Может ли музыка помочь обрести новый опыт?

Psychologies
История солистки Roxette Мари Фредрикссон «Любовь к жизни» История солистки Roxette Мари Фредрикссон «Любовь к жизни»

Солистка группы Roxette Мари Фредрикссон честно рассказала свою биографию

СНОБ
Отступающий альпийский ледник обнажил место добычи горного хрусталя эпохи мезолита Отступающий альпийский ледник обнажил место добычи горного хрусталя эпохи мезолита

Отступивший альпийский ледник обнажил месторождение горного хрусталя и кварца

N+1
Забытая первая роль Джима Керри потрясла фанатов — комик сдерживал свой талант Забытая первая роль Джима Керри потрясла фанатов — комик сдерживал свой талант

Послужной список Джима Керри открывался очень необычной ролью

Cosmopolitan
Перестаньте смывать эти вещи в раковину: ошибки, которые беспощадно портят вашу технику Перестаньте смывать эти вещи в раковину: ошибки, которые беспощадно портят вашу технику

Эти несколько типов загрязнений — «страшный сон» каждого сантехника

ТехИнсайдер
Вячеслав Бутусов. Как брат брату Вячеслав Бутусов. Как брат брату

Вячеслав Бутусов — об Алексее Балабанове, русской жизни и возвращении в 90-е

СНОБ
Открыть в приложении