Наличный обман
Дипфейк — это младший брат фотошопа, технология, позволяющая менять лица людей на видео. Прежде она применялась для создания эротических фильмов. Но теперь все изменилось.
Что, если вы узнаете, будто королева Великобритании променяла престол на кресло наставника в шоу «Голос», а Владимир Путин снялся в роли доктора Зло в продолжении «Остина Пауэрса»? Думаете, это невозможно? Тогда познакомьтесь с дипфейками — вирусными роликами, которые стирают границу между правдой и вымыслом и вскоре изменят наш мир.
Итальянские политики мало чем отличаются от героев плохого реалити-шоу. Поэтому, когда 45‑летний основатель партии «Италия Вива» Маттео Ренци (которого часто называют неудачной копией Сильвио Берлускони) вляпался в очередной скандал, казалось, это совершенно обыденное явление. Вот наш герой сидит за столом в студии и ждет прямого включения. Как будто забыв о камерах, Ренци неожиданно начинает поливать грязью действующую итальянскую власть, а в кульминации своего спича использует жест «полруки», что означает «хрен вам всем». Само собой, активисты всех мастей, увидев ролик, бросились делиться негодованием в твиттере. Прошло много времени, прежде чем внимательные зрители положили этому конец.
Хоть ролик и выглядел очень реалистично, на самом деле Ренци никогда не оскорблял коллег (как минимум прилюдно). Видео с его участием оказалось дипфейком (deep подразумевает глубокое обучение нейросети, а fake означает «подделка». — Прим. GQ) — роликом, в котором вместо лица одного человека, в данном случае комика, подставлено другое, то есть лицо Ренци. Создать такой контент помог алгоритм нейросети, который наложил несколько изображений Ренци на персонажа стороннего видео, после чего тот стал точной копией итальянца.
Но до того, как обман вскрылся, политику пришлось клятвенно уверять своих сторонников в том, что ролик не имеет к нему никакого отношения. Ренцо выглядел сумасшедшим. Как алкоголик, который утверждает, что не притрагивался к стопке. Его адекватность и честность стали вызывать вопросы у однопартийцев. И все это — благодаря шуточной, на первый взгляд, технологии.
Сегодня создать дипфейк под силу любому, у кого есть компьютер, интернет и вагон терпения — качественный ролик требует поистине ювелирной подгонки (но мы-то прекрасно знаем, что у тех, кто сидит в интернете, чего-чего, а проблем с нехваткой времени нет).
Дипфейк, этот развевающийся символ конца правды, беспокоит многих исследователей. Ведь шуточные ролики зачастую преследуют по-настоящему опасные цели. Представьте себе, что случится, если накануне выборов в сети появится ролик с одним из кандидатов, в котором тот совокупляется с ламами или признается, будто поддерживает идеологию Третьего рейха. Последствия, которые сулят обществу фальшивые видео, беспокоят даже Facebook (соцсеть признана в РФ экстремистской и запрещена): компания анонсировала конкурс для разработки методов распознавания дипфейков. Но так ли страшны эти наглые отпрыски фотошопа?
Апокалипсис завтра
Сэм Грегори в душе всегда был активистом и страстно любил все, что связано с видео. Именно эти качества впоследствии сделали его главой общественной организации Witness, снабжающей жителей городов — от Дамаска до Рио — камерами для выявления нарушений прав человека. Помимо этого, сотрудники Witness занимаются разоблачением фейковых и недостоверных новостей. Грегори был одним из первых, кто разглядел опасность в дипфейках. «Уже много лет ходят разговоры о расцвете эпохи постправды, — говорит он. — Да, можно считать, что под прямой угрозой сегодня находится сама демократия».
Дипфейки страшны тем, что с каждым днем они становятся все более реалистичными и подрывают священный принцип апостола Фомы: теперь недостаточно увидеть, чтобы уверовать. «Шквал разговоров о дипфейках в медиа напоминает 1990‑е годы, когда появились первые цифровые изображения, а затем, чуть позже, фотошоп, — говорит Андре Гюнтер, преподаватель парижской Высшей школы социальных наук. — Гуру того времени писали, что мы больше не можем верить всему, что изображено на фотографиях, что цифровое изображение уничтожит правду. Но редактировать фотографии мы, как видите, не перестали, и обещанный апокалипсис не наступил».