Что такое deepfake и опасен ли он на самом деле

Популярная механикаHi-Tech

Deepfake и как с ним бороться

Технологии, профессионально обманывающие человеческое восприятие, широко применяются в разных сферах. К примеру, В Южной Корее кандидата в президенты продвигают с помощью дипфейка. Что такое deepfake и опасен ли он на самом деле нам рассказал Александро Паркин, руководитель исследовательских проектов VisionLabs.

Не верь глазам своим, компьютер

Термин deepfake — от deep learning («глубокое обучение») и fake («подделка») — употребляется достаточно широко и обозначает практически любое изменение цифровых медиаданных с целью ввести в заблуждение компьютерную систему распознавания образов или живого наблюдателя. Например, вместо одного лица «приставить» к фигуре человека на видео другое (это называется Face Swap, замена лица), или же вместо довольной улыбки правдоподобно изобразить гримасу негодования (Face Reenactment, замена выражения лица).

Помимо deepfake, есть два основных вектора атак систем распознавания: на вычислительные алгоритмы и на сами камеры. К первому типу относятся Adversarial-атаки — тщательным образом подготовленные изменения входных данных, результатом которых становится выдача нейронной сетью ошибочного решения; скажем, когда изображение черепашки, для человека совершенно однозначное, машиной воспринимается как гоночный автомобиль. Атака «на камеру», пик популярности которой пришёлся на первые годы широкого распространения систем распознавания лиц это Liveness, подмена живого лица перед камерой его искусственным подобием — распечатанным на бумаге фото, портретным снимком на экране планшета, правдоподобно раскрашенной и напечатанной на 3D-принтере маской.

К счастью, современные системы распознавания уже неплохо умеют противостоять Liveness-атакам на уровне алгоритмов. Производится детальный анализ картинки в поисках особых признаков: для распечатанного фото это может быть обрез бумажного листа, для картинки на планшете — радужные блики от внешних источников света на ЖК-матрице и т. п. Стоящего перед камерой человека можно попросить покачать головой вверх-вниз, повернуться в разные стороны, чтобы повысить достоверность отождествления и заодно удостовериться, что «подмены лица» здесь нет.

0e3675c09e0bbbe3d7a850b3f8403e88.jpg

Ситуация несколько сложнее, если вычислительный модуль системы распознавания и камера не совмещены в одном корпусе (как у iPhone в случае Face ID или у системы Face Pay в Московском метрополитене), а взаимодействуют через Интернет. К примеру, человек в ходе Zoom-конференции с сотрудником банка оформляет кредит, и необходимо удостовериться тот ли он, за кого себя выдаёт и чьи документы предъявляет. Здесь уже возникает опасность перехвата трафика: злоумышленник имитирует на ПК изображение с виртуальной камеры, заменяя собственное

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Лучшие лайфхаки для дома и не только: 7 удивительных применений суперклея Лучшие лайфхаки для дома и не только: 7 удивительных применений суперклея

Некоторые лайфхаки могут показаться вам странными, однако они правда работают!

ТехИнсайдер
Подтянуть живот: 8 способов избавиться от висцерального жира Подтянуть живот: 8 способов избавиться от висцерального жира

Как избавиться от висцерального жира на животе.

VOICE
Ночной режим съемки в смартфоне: как творится волшебство Ночной режим съемки в смартфоне: как творится волшебство

Заглянем «под капот» режима ночной съемки в смартфоне

CHIP
Никто не хотел защищать Никто не хотел защищать

Дело о похищении и уничтожении Казанской иконы Божией Матери

Дилетант
«Смерть, ритуал и вера: риторика погребальных обрядов» «Смерть, ритуал и вера: риторика погребальных обрядов»

Один из самых популярных ответов на вопрос, как люди реагируют на тяжелую утрату

N+1
Король коммуникации: 5 книг о том, как правильно говорить и слушать Король коммуникации: 5 книг о том, как правильно говорить и слушать

Эффективная коммуникация — это значительная часть успеха в любом деле

Maxim
Некоторых кельтов из Вероны заподозрили в альпийском происхождении Некоторых кельтов из Вероны заподозрили в альпийском происхождении

Биоархеологи исследовали останки 49 индивидов, живших в III–I веках до нашей эры

N+1
Убийца внутри вас Убийца внутри вас

Как не дать самому себе убить себя

Men’s Health
От страха — к новой жизни: научись управлять своим состоянием От страха — к новой жизни: научись управлять своим состоянием

В любые кризисные времена главное поле боя — у нас внутри

Psychologies
10 советов, которые однажды могут спасти вам жизнь 10 советов, которые однажды могут спасти вам жизнь

Мы очень надеемся, что эти советы вам никогда не пригодятся

Популярная механика
Адаптироваться к жизни в чужой стране: опыт и советы гештальт-терапевта Адаптироваться к жизни в чужой стране: опыт и советы гештальт-терапевта

Какие шаги нужно предпринять, чтобы быстрее освоиться на новом месте

Psychologies
Где проще общаться — в Сети или в реальной жизни? 69% людей считают, что в Сети Где проще общаться — в Сети или в реальной жизни? 69% людей считают, что в Сети

Почему люди считают, что знакомиться в интернете значительно проще

Cosmopolitan
Как завышенные ожидания убивают отношения: 5 ошибок Как завышенные ожидания убивают отношения: 5 ошибок

Почему мы ждем любви до гроба, а получаем разочарование

Psychologies
Роды с доулой: как выбрать боевую подругу Роды с доулой: как выбрать боевую подругу

Кто такая доула и какова ее роль в родах

Psychologies
Мария Кюри, Хеди Ламарр и другие: 10 фильмов про женщин-ученых Мария Кюри, Хеди Ламарр и другие: 10 фильмов про женщин-ученых

Про достижения женщин в науке снято немало фильмов

Forbes
Как использовать старую зубную щетку: 13 необычных способов Как использовать старую зубную щетку: 13 необычных способов

Зубную щетку может заменить десятки различных приспособлений для дома

Популярная механика
Что рассказать о себе на собеседовании при приеме на работу Что рассказать о себе на собеседовании при приеме на работу

Как должен выглядеть достойный ответ на каверзный вопрос «расскажите о себе»

Maxim
Не мимикой единой Не мимикой единой

Неожиданные привычки, приводящие к морщинам

Лиза
Светлана Иванова сыграла жертву насилия: о чем новый сериал «Обоюдное согласие» Светлана Иванова сыграла жертву насилия: о чем новый сериал «Обоюдное согласие»

Сини-сериал «Обоюдное согласие» балансирует на грани между детективом и драмой

Psychologies
Не клеточки и не огурцы: как правильно называть принты — мы все ошибаемся Не клеточки и не огурцы: как правильно называть принты — мы все ошибаемся

Принты, которые мы часто используем и неправильно называем

Cosmopolitan
Измена — в природе мужчин: так ли это? Измена — в природе мужчин: так ли это?

Почему мы думаем, что изменять склонны именно мужчины

Psychologies
Боязнь лифтов и самолетов — что такое клаустрофобия и как с ней жить Боязнь лифтов и самолетов — что такое клаустрофобия и как с ней жить

Клаустрофобией могут страдать люди разных возрастов, и причин для этой нее много

РБК
Что такое холодное отбеливание зубов Zoom 4 и кому оно подходит Что такое холодное отбеливание зубов Zoom 4 и кому оно подходит

Если природа не наделила тебя белоснежной улыбкой, это не проблема

Cosmopolitan
Скотоводы пришли в дельту Нила около 7000 лет назад Скотоводы пришли в дельту Нила около 7000 лет назад

Ученые провели исследование керна отложений, отобранного в дельте Нила

N+1
Для идеальной спины: 5 упражнений от жировых складок Для идеальной спины: 5 упражнений от жировых складок

Как убрать жировые складки на спине в домашних условиях?

VOICE
Как Грант Петти стал миллиардером благодаря производству кинооборудования Как Грант Петти стал миллиардером благодаря производству кинооборудования

Как презрение к аутсорсингу и армия ютуберов могут привести бизнес к процветанию

Forbes
Мама, ты не одна! Мама, ты не одна!

От пособий до налоговых льгот: на что сегодня может рассчитывать мать-одиночка

Лиза
Что лучше: бег или скакалка? Что лучше: бег или скакалка?

Бег или скакалка — что лучше сжигает жир и развивает выносливость

Maxim
Маргарет Тэтчер — краткая биография первой женщины с Даунинг-стрит Маргарет Тэтчер — краткая биография первой женщины с Даунинг-стрит

Как жила и за что боролась Маргарет Тэтчер

СНОБ
Как правильно пить растворимый кофе с пользой для здоровья Как правильно пить растворимый кофе с пользой для здоровья

Все, что вы хотели знать о растворимом кофе, но стеснялись спросить!

Популярная механика
Открыть в приложении