Что такое deepfake и опасен ли он на самом деле

Популярная механикаHi-Tech

Deepfake и как с ним бороться

Технологии, профессионально обманывающие человеческое восприятие, широко применяются в разных сферах. К примеру, В Южной Корее кандидата в президенты продвигают с помощью дипфейка. Что такое deepfake и опасен ли он на самом деле нам рассказал Александро Паркин, руководитель исследовательских проектов VisionLabs.

Не верь глазам своим, компьютер

Термин deepfake — от deep learning («глубокое обучение») и fake («подделка») — употребляется достаточно широко и обозначает практически любое изменение цифровых медиаданных с целью ввести в заблуждение компьютерную систему распознавания образов или живого наблюдателя. Например, вместо одного лица «приставить» к фигуре человека на видео другое (это называется Face Swap, замена лица), или же вместо довольной улыбки правдоподобно изобразить гримасу негодования (Face Reenactment, замена выражения лица).

Помимо deepfake, есть два основных вектора атак систем распознавания: на вычислительные алгоритмы и на сами камеры. К первому типу относятся Adversarial-атаки — тщательным образом подготовленные изменения входных данных, результатом которых становится выдача нейронной сетью ошибочного решения; скажем, когда изображение черепашки, для человека совершенно однозначное, машиной воспринимается как гоночный автомобиль. Атака «на камеру», пик популярности которой пришёлся на первые годы широкого распространения систем распознавания лиц это Liveness, подмена живого лица перед камерой его искусственным подобием — распечатанным на бумаге фото, портретным снимком на экране планшета, правдоподобно раскрашенной и напечатанной на 3D-принтере маской.

К счастью, современные системы распознавания уже неплохо умеют противостоять Liveness-атакам на уровне алгоритмов. Производится детальный анализ картинки в поисках особых признаков: для распечатанного фото это может быть обрез бумажного листа, для картинки на планшете — радужные блики от внешних источников света на ЖК-матрице и т. п. Стоящего перед камерой человека можно попросить покачать головой вверх-вниз, повернуться в разные стороны, чтобы повысить достоверность отождествления и заодно удостовериться, что «подмены лица» здесь нет.

0e3675c09e0bbbe3d7a850b3f8403e88.jpg

Ситуация несколько сложнее, если вычислительный модуль системы распознавания и камера не совмещены в одном корпусе (как у iPhone в случае Face ID или у системы Face Pay в Московском метрополитене), а взаимодействуют через Интернет. К примеру, человек в ходе Zoom-конференции с сотрудником банка оформляет кредит, и необходимо удостовериться тот ли он, за кого себя выдаёт и чьи документы предъявляет. Здесь уже возникает опасность перехвата трафика: злоумышленник имитирует на ПК изображение с виртуальной камеры, заменяя собственное

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Роды с доулой: как выбрать боевую подругу Роды с доулой: как выбрать боевую подругу

Кто такая доула и какова ее роль в родах

Psychologies
Досрочная аллергия Досрочная аллергия

Бывает вид аллергии, который может проявляться в любое время года

Здоровье
Ночной режим съемки в смартфоне: как творится волшебство Ночной режим съемки в смартфоне: как творится волшебство

Заглянем «под капот» режима ночной съемки в смартфоне

CHIP
7 автомобилей и мотоциклов с двигателями от танков: кадры самых мощных моделей 7 автомобилей и мотоциклов с двигателями от танков: кадры самых мощных моделей

Перед нами безумно мощные и очень тяжёлые автомобили с двигателями от танков

ТехИнсайдер
10 способов не испытывать голода на любой диете 10 способов не испытывать голода на любой диете

Мало есть и при этом не быть голодной – проблема каждого, кто садится на диету

Лиза
«Как мы стали людьми. Поиски истоков человечества»: Откуда мы родом и какие факторы определили нашу эволюцию «Как мы стали людьми. Поиски истоков человечества»: Откуда мы родом и какие факторы определили нашу эволюцию

Прямохождение и особенности человеческого тела

N+1
Первобытные быки не дали зарасти лесом окрестностям Стоунхенджа Первобытные быки не дали зарасти лесом окрестностям Стоунхенджа

Ученые исследовали образцы отложений с мезолитической стоянки Блик-Мид

N+1
Почему жители бедных стран могут считать себя счастливыми и надо ли их разубеждать Почему жители бедных стран могут считать себя счастливыми и надо ли их разубеждать

Можем ли мы доверять мнениям людей о собственном счастье?

Forbes
Может ли цвет настроения стать зелёным? Может ли цвет настроения стать зелёным?

К вопросу о развитии цветообозначений в разных языках

Наука и жизнь
Фазы быстрого и медленного сна: как правильно спать Фазы быстрого и медленного сна: как правильно спать

Почему так важен полноценный отдых и как улучшить качество сна

VOICE
Больная реальность: как травмирует жестокое отцовское «воспитание» Больная реальность: как травмирует жестокое отцовское «воспитание»

Сделает ли родительское насилие из ребенка «человека» или искалечит психику?

Psychologies
Что такое торможение двигателем и как правильно его применять Что такое торможение двигателем и как правильно его применять

Торможение двигателем — крайне полезный и эффективный приём

РБК
Секреты стиля Игги Попа — от очень узких брюк до прозрачных маек (и не только) Секреты стиля Игги Попа — от очень узких брюк до прозрачных маек (и не только)

Рассказываем о главных составляющих стиля Игги Попа

Esquire
От тюремной камеры до надгробия: 8 фактов о кроссвордах, о которых вы не догадывались От тюремной камеры до надгробия: 8 фактов о кроссвордах, о которых вы не догадывались

История появления кроссвордов и другие факты

Вокруг света
Где взять энергию Где взять энергию

Простые и эффективные способы, которые помогут подзарядить внутренние батарейки

Лиза
Полное лицо: можно ли исправить и как это правильно сделать Полное лицо: можно ли исправить и как это правильно сделать

Существует много способов сделать лицо более худым

РБК
Как правильно измерять температуру: выбираем самый точный термометр Как правильно измерять температуру: выбираем самый точный термометр

Какой из градусников лучше именно для вас

Популярная механика
Щуркины рассветы Щуркины рассветы

Ракшеобразные — птицы с широчайшим цветовым диапазоном оперения

Наука и жизнь
Некрасивые истории красивого кино: что осталось за кадром советских фильмов Некрасивые истории красивого кино: что осталось за кадром советских фильмов

Что скрывает знаменитое советское кино?

VOICE
Лучшие блюда корейской кухни: 5 рецептов необычных супов Лучшие блюда корейской кухни: 5 рецептов необычных супов

Важно иметь возможность приготовить еду за максимально короткое время

Вокруг света
Как завышенные ожидания убивают отношения: 5 ошибок Как завышенные ожидания убивают отношения: 5 ошибок

Почему мы ждем любви до гроба, а получаем разочарование

Psychologies
Русское серебро. Начало Русское серебро. Начало

Как в России искали и добывали серебро

Наука и жизнь
Время твоего рождения расскажет всё о твоих отношениях: объясняют астрологи Время твоего рождения расскажет всё о твоих отношениях: объясняют астрологи

Именно от времени рождения зависит, какая планета станет твоим покровителем

Cosmopolitan
Топ-7 самых популярных независимых российских авторов по версии «ЛитРес» Топ-7 самых популярных независимых российских авторов по версии «ЛитРес»

Рейтинг самых популярных российских digital-авторов

РБК
10 интересных фактов о 10 интересных фактов о

Какой путь прошла The Coca-Cola Company, прежде, чем стать популярной?

ТехИнсайдер
Потемки катализа. Почему химики до сих пор ищут катализаторы на ощупь Потемки катализа. Почему химики до сих пор ищут катализаторы на ощупь

Катализаторы — химические соединения, которые ускоряют реакции

N+1
7 нелепых диет: почему стоит держаться от них подальше 7 нелепых диет: почему стоит держаться от них подальше

Рассмотрим топ-7 нелепых диет, которых не стоит придерживаться

Psychologies
Что делать, чтобы не переносить свою тревогу на ребенка Что делать, чтобы не переносить свою тревогу на ребенка

Родители всегда делают все возможное, чтобы защитить своих детей от стресса

Psychologies
Как в кино: какие сценарии разыгрывает наше подсознание Как в кино: какие сценарии разыгрывает наше подсознание

Хотите узнать, чем все закончится в вашей истории и чем сердце успокоится?

Psychologies
Что такое синдром «компьютерной шеи» и чем он опасен: проверьте, есть ли он у вас Что такое синдром «компьютерной шеи» и чем он опасен: проверьте, есть ли он у вас

Чем может быть опасен синдром «компьютерной шеи» и что с этим делать

Популярная механика
Открыть в приложении