Что такое deepfake и опасен ли он на самом деле

Популярная механикаHi-Tech

Deepfake и как с ним бороться

Технологии, профессионально обманывающие человеческое восприятие, широко применяются в разных сферах. К примеру, В Южной Корее кандидата в президенты продвигают с помощью дипфейка. Что такое deepfake и опасен ли он на самом деле нам рассказал Александро Паркин, руководитель исследовательских проектов VisionLabs.

Не верь глазам своим, компьютер

Термин deepfake — от deep learning («глубокое обучение») и fake («подделка») — употребляется достаточно широко и обозначает практически любое изменение цифровых медиаданных с целью ввести в заблуждение компьютерную систему распознавания образов или живого наблюдателя. Например, вместо одного лица «приставить» к фигуре человека на видео другое (это называется Face Swap, замена лица), или же вместо довольной улыбки правдоподобно изобразить гримасу негодования (Face Reenactment, замена выражения лица).

Помимо deepfake, есть два основных вектора атак систем распознавания: на вычислительные алгоритмы и на сами камеры. К первому типу относятся Adversarial-атаки — тщательным образом подготовленные изменения входных данных, результатом которых становится выдача нейронной сетью ошибочного решения; скажем, когда изображение черепашки, для человека совершенно однозначное, машиной воспринимается как гоночный автомобиль. Атака «на камеру», пик популярности которой пришёлся на первые годы широкого распространения систем распознавания лиц это Liveness, подмена живого лица перед камерой его искусственным подобием — распечатанным на бумаге фото, портретным снимком на экране планшета, правдоподобно раскрашенной и напечатанной на 3D-принтере маской.

К счастью, современные системы распознавания уже неплохо умеют противостоять Liveness-атакам на уровне алгоритмов. Производится детальный анализ картинки в поисках особых признаков: для распечатанного фото это может быть обрез бумажного листа, для картинки на планшете — радужные блики от внешних источников света на ЖК-матрице и т. п. Стоящего перед камерой человека можно попросить покачать головой вверх-вниз, повернуться в разные стороны, чтобы повысить достоверность отождествления и заодно удостовериться, что «подмены лица» здесь нет.

0e3675c09e0bbbe3d7a850b3f8403e88.jpg

Ситуация несколько сложнее, если вычислительный модуль системы распознавания и камера не совмещены в одном корпусе (как у iPhone в случае Face ID или у системы Face Pay в Московском метрополитене), а взаимодействуют через Интернет. К примеру, человек в ходе Zoom-конференции с сотрудником банка оформляет кредит, и необходимо удостовериться тот ли он, за кого себя выдаёт и чьи документы предъявляет. Здесь уже возникает опасность перехвата трафика: злоумышленник имитирует на ПК изображение с виртуальной камеры, заменяя собственное

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Пять прелюдий о Грибоедове Пять прелюдий о Грибоедове

Грибоедовский миф занимает особое место среди других литературных мифов

Знание – сила
Rape kit: как собирают доказательства изнасилования в разных странах Rape kit: как собирают доказательства изнасилования в разных странах

Что такое repa kit и из чего он состоит

Forbes
Ночной режим съемки в смартфоне: как творится волшебство Ночной режим съемки в смартфоне: как творится волшебство

Заглянем «под капот» режима ночной съемки в смартфоне

CHIP
Илья Ильф и Евгений Петров: пять книг, которые стоит прочитать Илья Ильф и Евгений Петров: пять книг, которые стоит прочитать

Что, помимо "12 стульев" и "Золотого теленка", безусловно заслуживает внимания

Esquire
Актер Роман Васильев — о театре, «Идентификации» и инклюзии Актер Роман Васильев — о театре, «Идентификации» и инклюзии

Актер Роман Васильев — о свободе в театре и влиянии роли на жизнь актера

СНОБ
Что нужно женщине в 18, 35, 55: цитата Софи Такер, избавившей мир от стереотипов Что нужно женщине в 18, 35, 55: цитата Софи Такер, избавившей мир от стереотипов

Актрису Софи Такер можно было бы назвать первой последовательницей бодипозитива

Cosmopolitan
Пикнофибры тупандактиля указали на разноцветное оперение предка птерозавров и динозавров Пикнофибры тупандактиля указали на разноцветное оперение предка птерозавров и динозавров

Палеонтологи изучили окаменевшие покровы птерозавра

N+1
8 способов обмануть свой мозг, когда вы на диете 8 способов обмануть свой мозг, когда вы на диете

Может ли ваш мозг саботировать ваши усилия по снижению веса?

Популярная механика
FDA одобрило мясо генетически отредактированных короткошерстных коров FDA одобрило мясо генетически отредактированных короткошерстных коров

Генетически отредактированные коровы лучше переносят жаркую погоду

N+1
Робингудская «почемучка» Робингудская «почемучка»

Отвечаем на наиболее распространённые вопросы о Робин Гуде и Средних веках

Дилетант
«Позовите капитана Ященко»: топ-10 самых смешных розыгрышей на 1 апреля «Позовите капитана Ященко»: топ-10 самых смешных розыгрышей на 1 апреля

День дурака запомнился нашим читательницам больше всего

Cosmopolitan
Гормоны стресса: что они делают с нами и можно ли ими управлять Гормоны стресса: что они делают с нами и можно ли ими управлять

Как работают гормоны стресса и как помочь себе пережить сложное время

Psychologies
Как правильно чистить смартфон от загрязнений Как правильно чистить смартфон от загрязнений

Мобильный телефон называют одним из самых загрязнённых предметов в доме

Популярная механика
Как уменьшить риск сердечно-сосудистых заболеваний Как уменьшить риск сердечно-сосудистых заболеваний

Сердечно-сосудистые заболевания – основная причина смерти во всём мире

Здоровье
20 продуктов, о высокой калорийности которых вы даже не догадывались 20 продуктов, о высокой калорийности которых вы даже не догадывались

Являются ли полезными и не жирными продукты, что лежат у вас в корзине?

Популярная механика
Как устроена работа бортпроводницы: 5 фактов, о которых не догадываются обычные пассажиры Как устроена работа бортпроводницы: 5 фактов, о которых не догадываются обычные пассажиры

Стюардесса рассказала, как выглядит полет глазами экипажа воздушного судна

Вокруг света
Что не так с модной на Западе «новой этикой» Что не так с модной на Западе «новой этикой»

Что заставляет публицистов вести себя как жертвы северокорейской цензуры

Maxim
Перед жертвоприношением на вулкане инки дали детям коку и аяуаску Перед жертвоприношением на вулкане инки дали детям коку и аяуаску

Ученые провели токсикологический анализ останков, найденных в Перу

N+1
Зачем мы развешиваем дома фотографии близких? Зачем мы развешиваем дома фотографии близких?

Фотографии на кухне, в спальне и кабинете: прошлое, которое всегда с нами

Psychologies
Как выглядела первая «Мисс мира» на планете Как выглядела первая «Мисс мира» на планете

И вот летом 1951 года состоялся первый конкурс «Мисс мира»

Maxim
8 продуктов, которые помогут снизить риск инсульта 8 продуктов, которые помогут снизить риск инсульта

Если есть эти продукты регулярно, можно снизить риск инсульта на 27%!

Популярная механика
Цихлид и скатов научили прибавлять и вычитать единицу Цихлид и скатов научили прибавлять и вычитать единицу

Цихлиды и скаты понимают арифметические операции

N+1
Обитавший 336 миллионов лет назад тетрапод оказался обладателем длинного четвертого пальца Обитавший 336 миллионов лет назад тетрапод оказался обладателем длинного четвертого пальца

Своим длинным четвертым пальцем тетрапод напоминал ящериц

N+1
Как сделать компост в домашних условиях: простые способы Как сделать компост в домашних условиях: простые способы

Как не тратить деньги на покупку компоста и с пользой утилизировать свои отходы?

Популярная механика
Самолет комсомольцев: как в СССР разработали уникальный бомбардировщик с вертикальным взлетом Самолет комсомольцев: как в СССР разработали уникальный бомбардировщик с вертикальным взлетом

Вертикально взлетающими и приземляющимися ракетами сейчас никого не удивить

Популярная механика
Прошлая волна: как живут и работают русские эмигранты в США, ОАЭ и Великобритании Прошлая волна: как живут и работают русские эмигранты в США, ОАЭ и Великобритании

К чему нужно быть готовым при эмиграции?

Forbes
GAYAZOV$ BROTHER$: «Мы сразу заходим в топ» GAYAZOV$ BROTHER$: «Мы сразу заходим в топ»

GAYAZOV$ BROTHER$ — о том, как изменится музыкальный рынок

ЖАРА Magazine
Свадебная пластика: топ-3 популярных операций, востребованных у невест Свадебная пластика: топ-3 популярных операций, востребованных у невест

Какую пластическую операцию можно успеть сделать до свадьбы

Cosmopolitan
7 фактов о Великобритании 7 фактов о Великобритании

Куда отправиться за привидениями и почему британские собаки пахнут бергамотом?

Лиза
Кто такая Инесса Арманд и правда ли она была любовницей Ленина? Кто такая Инесса Арманд и правда ли она была любовницей Ленина?

Ленин был женат на своей любимой революции и немножко на Крупской

Maxim
Открыть в приложении