Что такое deepfake и опасен ли он на самом деле

Популярная механикаHi-Tech

Deepfake и как с ним бороться

Технологии, профессионально обманывающие человеческое восприятие, широко применяются в разных сферах. К примеру, В Южной Корее кандидата в президенты продвигают с помощью дипфейка. Что такое deepfake и опасен ли он на самом деле нам рассказал Александро Паркин, руководитель исследовательских проектов VisionLabs.

Не верь глазам своим, компьютер

Термин deepfake — от deep learning («глубокое обучение») и fake («подделка») — употребляется достаточно широко и обозначает практически любое изменение цифровых медиаданных с целью ввести в заблуждение компьютерную систему распознавания образов или живого наблюдателя. Например, вместо одного лица «приставить» к фигуре человека на видео другое (это называется Face Swap, замена лица), или же вместо довольной улыбки правдоподобно изобразить гримасу негодования (Face Reenactment, замена выражения лица).

Помимо deepfake, есть два основных вектора атак систем распознавания: на вычислительные алгоритмы и на сами камеры. К первому типу относятся Adversarial-атаки — тщательным образом подготовленные изменения входных данных, результатом которых становится выдача нейронной сетью ошибочного решения; скажем, когда изображение черепашки, для человека совершенно однозначное, машиной воспринимается как гоночный автомобиль. Атака «на камеру», пик популярности которой пришёлся на первые годы широкого распространения систем распознавания лиц это Liveness, подмена живого лица перед камерой его искусственным подобием — распечатанным на бумаге фото, портретным снимком на экране планшета, правдоподобно раскрашенной и напечатанной на 3D-принтере маской.

К счастью, современные системы распознавания уже неплохо умеют противостоять Liveness-атакам на уровне алгоритмов. Производится детальный анализ картинки в поисках особых признаков: для распечатанного фото это может быть обрез бумажного листа, для картинки на планшете — радужные блики от внешних источников света на ЖК-матрице и т. п. Стоящего перед камерой человека можно попросить покачать головой вверх-вниз, повернуться в разные стороны, чтобы повысить достоверность отождествления и заодно удостовериться, что «подмены лица» здесь нет.

0e3675c09e0bbbe3d7a850b3f8403e88.jpg

Ситуация несколько сложнее, если вычислительный модуль системы распознавания и камера не совмещены в одном корпусе (как у iPhone в случае Face ID или у системы Face Pay в Московском метрополитене), а взаимодействуют через Интернет. К примеру, человек в ходе Zoom-конференции с сотрудником банка оформляет кредит, и необходимо удостовериться тот ли он, за кого себя выдаёт и чьи документы предъявляет. Здесь уже возникает опасность перехвата трафика: злоумышленник имитирует на ПК изображение с виртуальной камеры, заменяя собственное

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Чемпионские перстни: откуда взялась традиция вручать их победителям и сколько они стоят Чемпионские перстни: откуда взялась традиция вручать их победителям и сколько они стоят

Когда впервые изготовили чемпионские перстни и какова реальная их стоимость

ТехИнсайдер
Из-за чего происходят вспышки холеры. Отрывок из книги врача Рональда Д. Герсте Из-за чего происходят вспышки холеры. Отрывок из книги врача Рональда Д. Герсте

Отрывок из книги врача Рональда Д. Герсте «Великие болезни и болезни великих»

СНОБ
Ночной режим съемки в смартфоне: как творится волшебство Ночной режим съемки в смартфоне: как творится волшебство

Заглянем «под капот» режима ночной съемки в смартфоне

CHIP
Как покупать продукты экономно Как покупать продукты экономно

Как купить только то, что тебе нужно назло продавцам и маркетологам

Maxim
«Прожить без ноги он сможет, а без воли — нет»: истории семей, переживших онкологию «Прожить без ноги он сможет, а без воли — нет»: истории семей, переживших онкологию

Forbes Life публикует несколько историй из повести Марии Томич

Forbes
Болезнь Крона: 11 симптомов, которые нужно знать Болезнь Крона: 11 симптомов, которые нужно знать

За последние 10 лет распространенность болезни Крона выросла в 6 раз

Популярная механика
Интервальное голодание с умом: 6 ошибок, которые помешают худеть Интервальное голодание с умом: 6 ошибок, которые помешают худеть

Система интервального голодания подкупает своей простотой

VOICE
Призывная комиссия Призывная комиссия

Служба в армии приводит к экономическим издержкам, которых можно было избежать

Forbes
Как вернуться в тренажерный зал после долгого перерыва: 5 простых шагов Как вернуться в тренажерный зал после долгого перерыва: 5 простых шагов

Как возобновить тренировки и вернуться в прежнее русло?

Популярная механика
«Русская кухня: от мифа к науке»: как и почему менялись кулинарные традиции и вкусы людей «Русская кухня: от мифа к науке»: как и почему менялись кулинарные традиции и вкусы людей

Отрывок из книги «Русская кухня: от мифа к науке» — о рыбе в СССР

N+1
Российские археологи сделали неандертальские копья и потыкали ими туши быка и барана Российские археологи сделали неандертальские копья и потыкали ими туши быка и барана

Похоже, неандертальцы из Чагырской пещеры занимались контактной охотой

N+1
От Елизаветы II до Натальи Водяновой: 10 кукол Barbie в виде звезд От Елизаветы II до Натальи Водяновой: 10 кукол Barbie в виде звезд

Вспоминаем куклы Barbie в виде медийных личностей

РБК
Энеолитическим скотоводам из Предкавказья приглянулось овечье молоко Энеолитическим скотоводам из Предкавказья приглянулось овечье молоко

Молекулярные биологи провели исследование зубного камня у 45 древних людей

N+1
12 овощей, от которых стоит отказаться после 50 лет 12 овощей, от которых стоит отказаться после 50 лет

Овощи крайне полезны для здоровья. Но есть ли исключения?

Популярная механика
Неизвестная страница истории Варшавского гетто: как врачи смогли остановить эпидемию Неизвестная страница истории Варшавского гетто: как врачи смогли остановить эпидемию

Медикам, оказавшимся в гетто, удалось предотвратить распространение сыпного тифа

Вокруг света
Робин из Локсли Робин из Локсли

О Робин Гуде сложены несколько десятков баллад

Дилетант
Как строить карьеру в условиях неопределенности Как строить карьеру в условиях неопределенности

Когда рынок труда претерпевает изменения, многие задумываются о своей карьере

Psychologies
Отрывок из нового романа Оксаны Васякиной «Степь» Отрывок из нового романа Оксаны Васякиной «Степь»

Отрывок романа Оксаны Васякиной «Степь» об отношениях с отцом

СНОБ
Чистота в доме: 10 способов сократить количество пыли, которые многие игнорируют Чистота в доме: 10 способов сократить количество пыли, которые многие игнорируют

Вы регулярно убираете, а пыль все равно лежит слоями?

Популярная механика
«Наша цель в агро — исключительно поисковая» «Наша цель в агро — исключительно поисковая»

Гендиректор «Щелково Агрохим» о развитии сельхозбизнеса компании

Агроинвестор
Как выглядела первая «Мисс мира» на планете Как выглядела первая «Мисс мира» на планете

И вот летом 1951 года состоялся первый конкурс «Мисс мира»

Maxim
Антидождь для автомобиля — что это за средство и как оно работает Антидождь для автомобиля — что это за средство и как оно работает

Как работает антидождь для автомобиля и как его выбрать?

РБК
Вечный вклад: как эндаументы дореволюционной России меняли жизнь, медицину и науку Вечный вклад: как эндаументы дореволюционной России меняли жизнь, медицину и науку

Как работали эндаументы — вечные вклады — в дореволюционной России

Forbes
Пара антител на год подавила размножение ВИЧ в крови пациентов Пара антител на год подавила размножение ВИЧ в крови пациентов

Иммунологи попробовали добиться ремиссии у ВИЧ-инфицированных пациентов

N+1
Репортаж со съемок сериала «Нулевой пациент» Репортаж со съемок сериала «Нулевой пациент»

Поговорить о ВИЧ в социальном аспекте решил сценарист «Нулевого пациента»

СНОБ
15 главных когнитивных искажений 15 главных когнитивных искажений

Что такое когнитивные искажения и почему они встречаются у многих из нас?

Psychologies
Не мимикой единой Не мимикой единой

Неожиданные привычки, приводящие к морщинам

Лиза
Британские колонисты из Южной Австралии пострадали от дефицита витамина C Британские колонисты из Южной Австралии пострадали от дефицита витамина C

Палеопатологи исследовали останки индивидов, найденных в окрестностях Аделаиды

N+1
Забытая роль Джима Керри потрясла фанатов — комик сыграл свою противоположность Забытая роль Джима Керри потрясла фанатов — комик сыграл свою противоположность

Послужной список Джима Керри открывался очень необычной ролью

VOICE
Древних жителей Атапуэрки уличили в поедании собак Древних жителей Атапуэрки уличили в поедании собак

Ученые провели исследование останков животных с памятника

N+1
Открыть в приложении