Что такое deepfake и опасен ли он на самом деле

Популярная механикаHi-Tech

Deepfake и как с ним бороться

Технологии, профессионально обманывающие человеческое восприятие, широко применяются в разных сферах. К примеру, В Южной Корее кандидата в президенты продвигают с помощью дипфейка. Что такое deepfake и опасен ли он на самом деле нам рассказал Александро Паркин, руководитель исследовательских проектов VisionLabs.

Не верь глазам своим, компьютер

Термин deepfake — от deep learning («глубокое обучение») и fake («подделка») — употребляется достаточно широко и обозначает практически любое изменение цифровых медиаданных с целью ввести в заблуждение компьютерную систему распознавания образов или живого наблюдателя. Например, вместо одного лица «приставить» к фигуре человека на видео другое (это называется Face Swap, замена лица), или же вместо довольной улыбки правдоподобно изобразить гримасу негодования (Face Reenactment, замена выражения лица).

Помимо deepfake, есть два основных вектора атак систем распознавания: на вычислительные алгоритмы и на сами камеры. К первому типу относятся Adversarial-атаки — тщательным образом подготовленные изменения входных данных, результатом которых становится выдача нейронной сетью ошибочного решения; скажем, когда изображение черепашки, для человека совершенно однозначное, машиной воспринимается как гоночный автомобиль. Атака «на камеру», пик популярности которой пришёлся на первые годы широкого распространения систем распознавания лиц это Liveness, подмена живого лица перед камерой его искусственным подобием — распечатанным на бумаге фото, портретным снимком на экране планшета, правдоподобно раскрашенной и напечатанной на 3D-принтере маской.

К счастью, современные системы распознавания уже неплохо умеют противостоять Liveness-атакам на уровне алгоритмов. Производится детальный анализ картинки в поисках особых признаков: для распечатанного фото это может быть обрез бумажного листа, для картинки на планшете — радужные блики от внешних источников света на ЖК-матрице и т. п. Стоящего перед камерой человека можно попросить покачать головой вверх-вниз, повернуться в разные стороны, чтобы повысить достоверность отождествления и заодно удостовериться, что «подмены лица» здесь нет.

0e3675c09e0bbbe3d7a850b3f8403e88.jpg

Ситуация несколько сложнее, если вычислительный модуль системы распознавания и камера не совмещены в одном корпусе (как у iPhone в случае Face ID или у системы Face Pay в Московском метрополитене), а взаимодействуют через Интернет. К примеру, человек в ходе Zoom-конференции с сотрудником банка оформляет кредит, и необходимо удостовериться тот ли он, за кого себя выдаёт и чьи документы предъявляет. Здесь уже возникает опасность перехвата трафика: злоумышленник имитирует на ПК изображение с виртуальной камеры, заменяя собственное

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Ни рук, ни ног — вообще ничего… Ни рук, ни ног — вообще ничего…

Что представляют собой змеи, чем они опасны и чем прекрасны?

Наука и жизнь
Личное пространство Личное пространство

Интерьер в духе классики — неброской, элегантной, спокойной

SALON-Interior
Ночной режим съемки в смартфоне: как творится волшебство Ночной режим съемки в смартфоне: как творится волшебство

Заглянем «под капот» режима ночной съемки в смартфоне

CHIP
Проводящая мембрана помогла уменьшить потери углекислого газа при электролизе Проводящая мембрана помогла уменьшить потери углекислого газа при электролизе

Максимальная конверсия углекислого газа достигла 91 процента

N+1
Зинаида Гиппиус. В поисках утраченной любви Зинаида Гиппиус. В поисках утраченной любви

Зинаида Гиппиус — декадентская мадонна

Караван историй
30 лет живет жизнью королевы, забыв о себе: всё об официальном двойнике Елизаветы II 30 лет живет жизнью королевы, забыв о себе: всё об официальном двойнике Елизаветы II

Мало кто знает, что у королевы Елизаветы есть официальный двойник

VOICE
Любимые упражнения долгожителей: простые тренировки на каждый день Любимые упражнения долгожителей: простые тренировки на каждый день

Каким именно спортом лучше заниматься, чтобы продлить жизнь?

Вокруг света
Дьявол у двери: 5 тайн и загадок Нотр-Дама Дьявол у двери: 5 тайн и загадок Нотр-Дама

О Нотр-Даме веками ходит множество мрачных легенд

Вокруг света
Почему появляются отеки на лице и как от них избавиться Почему появляются отеки на лице и как от них избавиться

Можно ли избавиться от отеков на лице, если изменить образ жизни?

VOICE
Как перестать думать о человеке: 5 советов психолога Как перестать думать о человеке: 5 советов психолога

Как справиться с зацикленностью на бывшем партнере

РБК
Не в плену у лаборанта: как неживые системы заменяют лабораторных животных Не в плену у лаборанта: как неживые системы заменяют лабораторных животных

Опыты над животными упоминаются еще в трудах древнегреческих врачей

Популярная механика
10 опасных продуктов, от которых стоит отказаться навсегда 10 опасных продуктов, от которых стоит отказаться навсегда

Растительное масло, соя и даже рыба могут быть очень опасны для нашего здоровья

Популярная механика
Физики оценили роль квантовой когерентности в работе птичьего компаса Физики оценили роль квантовой когерентности в работе птичьего компаса

Как устроена чувствительность к магнитому полю у перелетных птиц?

N+1
Женщины в русской поэзии XVIII и начала XIX века. Фрагмент новой книги филолога Марии Нестеренко Женщины в русской поэзии XVIII и начала XIX века. Фрагмент новой книги филолога Марии Нестеренко

В России писательницы существовали задолго до Серебряного века

Esquire
Что такое любовь к себе и зачем она нужна, рассказывает коуч Ирина Прачёва Что такое любовь к себе и зачем она нужна, рассказывает коуч Ирина Прачёва

Что такое «любить себя» непонятно в принципе

Cosmopolitan
Гении, филантропы, миллиардеры: 12 фильмов о бизнесменах и их успехе Гении, филантропы, миллиардеры: 12 фильмов о бизнесменах и их успехе

Лучшие художественные и документальные фильмы про бизнес и успех

Forbes
10 способов не испытывать голода на любой диете 10 способов не испытывать голода на любой диете

Мало есть и при этом не быть голодной – проблема каждого, кто садится на диету

Лиза
Почему люди не едят один бамбук: научный взгляд на природу наших вкусов Почему люди не едят один бамбук: научный взгляд на природу наших вкусов

Люди распространились по всему земному шару, потому что мы полностью всеядны

Вокруг света
Почему не всходят семена: 5 возможных причин Почему не всходят семена: 5 возможных причин

Если семена не всходят. Сорт плохой или это мы что-то делаем не так?

Лиза
«Время радикальных экспериментов»: какой была семейная политика в СССР «Время радикальных экспериментов»: какой была семейная политика в СССР

Как СССР использовал тему гендерных свобод для решения экономических вопросов

Forbes
Над злобой дня Над злобой дня

Книги о столкновении человека со злом, которые стоит перечитать

Weekend
Вы всегда делали это неправильно: 20 правил содержания домашних кошек, которые постоянно нарушают владельцы Вы всегда делали это неправильно: 20 правил содержания домашних кошек, которые постоянно нарушают владельцы

Увы, иногда наша любовь может навредить кошке. А как правильно?

ТехИнсайдер
Трудоголизм — новая религия: почему нам нравится работать Трудоголизм — новая религия: почему нам нравится работать

Зачем мы так много работаем, с какой стати этим гордимся?

Psychologies
Вы неправильно ностальгируете: психолог объясняет, как это делать без опасных последствий Вы неправильно ностальгируете: психолог объясняет, как это делать без опасных последствий

Боль из-за воспоминаний и непреодолимое желание все повторить — это ненормально

Psychologies
Яйцо Дориана Грея Яйцо Дориана Грея

«Скрежет»: орнитологический кошмар, помноженный на «Портрет Дориана Грея»

Weekend
Почему наступают ледниковые периоды и когда ждать следующего? Почему наступают ледниковые периоды и когда ждать следующего?

Каждый следующий ледниковый период становился суровее и дольше

Вокруг света
Зачем пользоваться раскоксовкой двигателя и как правильно это делать Зачем пользоваться раскоксовкой двигателя и как правильно это делать

Как и когда проводится раскоксовка мотора, всегда ли эта процедура полезна?

РБК
Британцы: что нужно знать о кошках этой породы Британцы: что нужно знать о кошках этой породы

Для тех, кто хочет завести британскую короткошерстную кошку

Популярная механика
3 правила здорового и устойчивого снижения веса 3 правила здорового и устойчивого снижения веса

Cосредоточиться на трех базовых принципах разумного питания, чтобы похудеть

Psychologies
10 редких видов собак: породы для тех, кто хочет завести необычного питомца 10 редких видов собак: породы для тех, кто хочет завести необычного питомца

Решили завести собаку редкой породы?

ТехИнсайдер
Открыть в приложении