Отрывок из книги «IT как оружие» о том, как IT-индустрия изменила наш мир

Inc.Культура

IT как оружие: нужно ли нам защищать свои лица так же, как мы защищаем свои счета

Кэрол Энн Браун, директор по коммуникациям и внешним связям в Microsoft. Брэд Смит, президент Microsoft 

«Возможность собирать огромные объёмы данных о пользователях — это палка о двух концах. С одной стороны, правительства, компании и частные лица получают возможность принимать более эффективные решения. С другой — это вызывает серьёзные вопросы о том, каким именно образом персональные данные должны использоваться, чтобы не нарушить право людей на неприкосновенность частной жизни», — написал Билл Гейтс в предисловии к книге президента Microsoft Брэда Смита. Брэд Смит рассказывает о том, как IT-индустрия изменила наш мир и что должны делать компании, чтобы помочь решить те проблемы, которые они создают. Его книга «IT как оружие. Какие опасности таит в себе развитие высоких технологий» вышла в ноябре в издательстве «Альпина Паблишер». Inc. публикует отрывок с сокращениями.

В фильме Стивена Спилберга 2002 года «Особое мнение» герой Тома Круза заходит в магазин Gap. Там действует технология, которая распознаёт каждого входящего покупателя и сразу начинает демонстрировать на экране одежду, которая предположительно должна понравиться ему. Одним такой уровень обслуживания может понравиться. Другим он может показаться навязчивым и даже неприятным. Короче говоря, посещение магазина начинает напоминать просмотр веб-страниц, после которого социальные сети подсовывают новую рекламу того, чем вы только что интересовались.

В «Особом мнении» Спилберг просил зрителей задуматься о том, что последствия применения технологий двоякие, — с одной стороны, они позволяют предотвращать преступления до того, как они будут осуществлены, а с другой — приводят к нарушению прав людей, когда что-то идёт не так. Система, которая опознаёт Круза в магазине Gap, получает информацию из чипа, вживлённого в его тело. Однако технический прогресс в первые два десятилетия XXI в. превосходит даже воображение Спилберга, поскольку в наши дни чипы уже не требуются. Технология распознавания лиц, опирающаяся на машинное зрение, данные в облаке и ИИ, позволяет идентифицировать покупателей на основе их визита в магазин на прошлой неделе или даже час назад. Она открывает для технологического сектора и правительств одну из первых возможностей ясно и однозначно определиться с подходами к вопросам этики и прав человека в сфере ИИ, приняв решение о том, как следует регулировать распознавание лиц.

То, что начиналось для большинства людей с довольно простых вещей вроде доступа к каталогам и поиску фотографий, быстро стало значительно более сложным. Уже сейчас многие полагаются на распознавание лиц, а не на пароль при разблокировании iPhone или ноутбука на Windows. И прогресс на этом не останавливается. Компьютер умеет сейчас делать то, что все мы, как люди, делаем почти с рождения — распознавать лица людей. Хотя эта способность принципиально важна для повседневной жизни, мы практически не задумываемся о том, что делает ее возможной. На самом деле наши лица так же уникальны, как и отпечатки пальцев. В число характерных черт входят расстояние между зрачками, размер носа, профиль улыбки и овал лица. Когда компьютеры используют фотографии для выделения этих черт и сведения их воедино, они создают основу для математического выражения, которое можно оценивать с помощью алгоритмов.

По всему миру эту технологию внедряют с тем, чтобы сделать нашу жизнь лучше. В некоторых случаях на нее смотрят, как на удобство для потребителей. Национальный банк Австралии разрабатывает на основе технологии распознавания лиц Microsoft систему, позволяющую безопасно снимать деньги в банкомате без предъявления пластиковой карты. Банкомат распознаёт лицо клиента, после чего можно ввести PIN-код и выполнить операцию. В других случаях выгоды от этой технологии более существенны. Например, в Национальном научно-исследовательском институте генома человека в Вашингтоне распознавание лиц помогает врачам диагностировать так называемый синдром Ди Джорджи, или синдром делеции хромосомы 22q11.2. Это заболевание чаще всего поражает жителей Африки, Азии и Латинской Америки. Оно может вызывать ряд серьёзных проблем со здоровьем, включая нарушение функций сердца и почек. При этом его нередко можно диагностировать с помощью компьютерных систем по незначительным изменениям черт лица.

Описанные сценарии показывают, как именно распознавание лиц может использоваться с пользой для общества. Это — новый инструмент XXI в. Как и многие другие инструменты, впрочем, его можно также превратить в оружие. Правительство может использовать распознавание лиц для идентификации тех, кто участвует в мирном митинге, а потом преследовать их и, таким образом, подавлять свободу слова и собраний. Даже в демократическом обществе полиция может чрезмерно полагаться на этот инструмент при идентификации подозреваемых, забывая о том, что распознавание лиц, как и любая другая технология, не всегда работает идеально. По этим причинам распознавание лиц тесно переплетается с более широкими политическими и социальными аспектами и вызывает принципиально важный вопрос: какую роль, с нашей точки зрения, эта форма искусственного интеллекта должна играть в обществе?

Некоторое представление о том, что нас ждет, мы неожиданно получили летом 2018 г. в связи с одной из самых злободневных политических тем того сезона. В июне один из жителей Вирджинии, называвший себя «свободным разработчиком софта», вдруг сильно заинтересовался более широкими политическими вопросами. Он опубликовал ряд твитов о контракте Microsoft с Бюро иммиграционного и таможенного контроля США (ICE), основываясь на истории, которая была опубликована в маркетинговом блоге компании в январе. Честно говоря, об этом посте в компании давно забыли. В нем говорилось о том, что технология Microsoft, созданная для ICE, отвечает высоким требованиям по безопасности и принята для внедрения. Кроме того, отмечалось, что компания гордится своим сотрудничеством с бюро, перед которым теперь открывается возможность использовать технологию распознавания лиц.

В июне 2018 г. решение администрации Трампа о разлучении детей и родителей на южной границе США стало взрывной темой. На этом фоне сделанное несколько месяцев назад маркетинговое заявление, а вместе с ним и использование технологии распознавания лиц, приобрело совсем другой смысл. Людей волновало, чем может обернуться использование такой вещи, как распознавание лиц, в работе ICE и других иммиграционных ведомств. Не приведет ли это к тому, что камеры, связанные с облаком, будут идентифицировать иммигрантов на улицах городов? Не будет ли это, учитывая нынешний уровень данной технологии с присущим ему риском ошибки, приводить к задержаниям совсем не тех, кого нужно?

К обеду в Сиэтле твиты о маркетинговом блоге заполонили интернет, и наша команда по связям с общественностью в срочном порядке занялась выработкой ответа. Некоторые представители разработчиков и маркетинговой службы считали, что нам следует просто удалить пост и сказать: «Эта информация устарела и больше не имеет отношения к делу». Фрэнк Шоу, руководитель службы Microsoft по коммуникациям, три раза просил их не удалять сообщение. «Это лишь осложнит ситуацию», — говорил он. Кто-то всё же не удержался и частично удалил пост. Как и следовало ожидать, это спровоцировало новый раунд негативных отзывов. К следующему утру все извлекли очевидный урок, и пост был восстановлен в первоначальном виде. Как это нередко случается, нам пришлось разбираться с тем, что же на самом деле предусматривал контракт компании с ICE. Когда мы добрались до его сути, выяснилось, что в контракте не было ни слова об использовании технологии распознавания лиц. Microsoft, слава богу, не имела никакого отношения к проектам по разлучению детей с их семьями на границе. Контракт касался оказания ICE помощи в перемещении электронной почты, календарных графиков рассылок и документооборота в облако. Он ничем не отличался от проектов, над которыми мы работали с другими клиентами, включая государственные ведомства, в Соединённых Штатах и по всему миру. Так или иначе, возник новый спор. Некоторые предлагали вообще аннулировать этот контракт и свернуть все работы с ICE — тема использования правительством технологий захватила многих тем летом. Появилась даже группа сотрудников, которая разослала петицию за приостановку контракта с ICE. Этот вопрос даже начал будоражить технологический сектор в целом. Аналогичную активность стали проявлять работники Salesforce, разработчика облачных систем, в связи с его контрактом с таможенно-пограничной службой США. За ними последовали работники Google, заставившие компанию отказаться от проекта по разработке искусственного интеллекта для военного ведомства США. А Американский союз гражданских свобод нацелился на Amazon, поддержав её работников, которые высказывали опасения в отношении Recognition, сервиса компании по распознаванию лиц.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Вот почему люди стали использовать огонь — и приготовление пищи тут не при чем Вот почему люди стали использовать огонь — и приготовление пищи тут не при чем

Исследование, перечеркнувшее привычную картину: зачем люди приручили огонь

Inc.
Пять вопросов педиатру Пять вопросов педиатру

Врач-педиатр, кандидат медицинских наук отвечает на вопросы о детском здоровье

9 месяцев
Алексей Олейников: Хочу расследовать «Смерть чиновника» Чехова Алексей Олейников: Хочу расследовать «Смерть чиновника» Чехова

Писатель Алексей Олейников — об историческом детективе и антропологии

СНОБ
Старое лучше нового: 5 причин выбрать бабушкино платье Старое лучше нового: 5 причин выбрать бабушкино платье

Объясняем, почему винтажная одежда оказывается лучше новой и зачем ее покупать

Cosmopolitan
Скандинавская ходьба: глупый тренд или топовое упражнение для поддержания здоровья? Скандинавская ходьба: глупый тренд или топовое упражнение для поддержания здоровья?

Оказывают ли какой-то эффект палки в скандинавской ходьбе?

ТехИнсайдер
Как улучшить качество сна? Как музыка влияет на мозг — и при чем тут искусственный интеллект Как улучшить качество сна? Как музыка влияет на мозг — и при чем тут искусственный интеллект

Музыка, искусственный интеллект и Grimes: как саунд-дизайн помогает лучше спать

Esquire
«Дружелюбная мышь» оказалась древнейшим социальным млекопитающим «Дружелюбная мышь» оказалась древнейшим социальным млекопитающим

Вид Filikomys primaevus вел социальный образ жизни еще во времена динозавров

N+1
Шале по-русски Шале по-русски

Яркий, сказочный и собирательный образ для загородного дома

SALON-Interior
Байкальские нерпы оказались любителями планктона Байкальские нерпы оказались любителями планктона

Ранее считалось, что основную долю в их рационе составляет рыба

N+1
Русские сезоны в F1: дорогие соотечественники, оставившие след в лучших гонках мира Русские сезоны в F1: дорогие соотечественники, оставившие след в лучших гонках мира

От худшего к лучшему рассчитайсь!

Maxim
Как погибший в Сочи Игорь Коропов создал одну из самых крупных компаний на рынке онлайн-образования России Как погибший в Сочи Игорь Коропов создал одну из самых крупных компаний на рынке онлайн-образования России

Кем был Игорь Коропов и как он развивал Skillbox

Forbes
Сторона защиты: Оксана Пушкина Сторона защиты: Оксана Пушкина

Борьба с бытовым насилием для Оксаны Пушкиной — и работа, и рутина, и сверхцель

Glamour
Самые яркие моменты из жизни Диего Марадоны Самые яркие моменты из жизни Диего Марадоны

Карьерные триумфы, провалы и наркозависимость Диего Марадоны

GQ
Отрывки из текста Михаила Калужского Отрывки из текста Михаила Калужского

Фрагмент текста Михаила Калужского — о памяти, ее аберрациях и ностальгии

СНОБ
Мемуары выдающихся ученых, которые стоит прочесть Мемуары выдающихся ученых, которые стоит прочесть

Топ-7 самых увлекательных мемуаров легендарных исследователей и ученых

Популярная механика
Как исправить неудачный татуаж — рассказывает мастер перманентного макияжа Как исправить неудачный татуаж — рассказывает мастер перманентного макияжа

Неудачный перманент — это неприятно, но исправимо. Рассказываем, как

Cosmopolitan
«Я уже ничего не боюсь» «Я уже ничего не боюсь»

Алексей Учитель о своем «Цое» и старой и новой цензуре

Weekend
Откуда взялась фраза «Как художник художнику» — а вот и не из «12 стульев» Откуда взялась фраза «Как художник художнику» — а вот и не из «12 стульев»

В романе Ильфа и Петрова этой крылатой фразы нет

Maxim
Про мэтчи и баны: топ-7 болезненных вопросов об онлайн-знакомствах главе «Мамбы» Про мэтчи и баны: топ-7 болезненных вопросов об онлайн-знакомствах главе «Мамбы»

Разбираем все причины, по которым мы ненавидим сайты и приложения для знакомств

Playboy
Дорога к себе Дорога к себе

Почему нас – почти всех – так тянет путешествовать?

Psychologies
Вне времени: как Леонардо ДиКаприо транслирует с экрана идеальный классический мужской образ с налетом ретро Вне времени: как Леонардо ДиКаприо транслирует с экрана идеальный классический мужской образ с налетом ретро

Кинообразы Леонардо ДиКаприо — вечная классика мужского гардероба

Esquire
100 самых честных правил мужского гардероба. Часть 3: аксессуары 100 самых честных правил мужского гардероба. Часть 3: аксессуары

Бескомпромиссные советы по стилю!

Maxim
Самые необычные концепции Вселенной: прав ли Эйнштейн Самые необычные концепции Вселенной: прав ли Эйнштейн

Общая теория относительности позволяет создавать экзотические воображаемые миры

Популярная механика
Сайонара, Walmart: как крупнейший мировой ретейлер разочаровался в Японии Сайонара, Walmart: как крупнейший мировой ретейлер разочаровался в Японии

Какое будущее ожидает Walmart в стране самураев после почти 20 лет неудач?

Forbes
Великолепная пятёрка Великолепная пятёрка

5 диет, признанных самими лучшими в 2020 году

Худеем правильно
Почему взрослым непросто учиться: плюсы и минусы образовательных подходов Почему взрослым непросто учиться: плюсы и минусы образовательных подходов

Зачастую нам мешает учиться неподходящий метод обучения

Psychologies
Почему насилия в жизни становится меньше, а на экране — больше, и почему миллениалы нравственнее бебибумеров Почему насилия в жизни становится меньше, а на экране — больше, и почему миллениалы нравственнее бебибумеров

Отрывок из книги Стивена Пинкера «Лучшее в нас»

Inc.
8 неприятных побочных эффектов похудения (да, они есть) 8 неприятных побочных эффектов похудения (да, они есть)

К чему стоит быть готовым, садясь на диету

Playboy
Первый сексуальный опыт: отрывок из сборника «Ее тело и другие» Кармен Марии Мачадо Первый сексуальный опыт: отрывок из сборника «Ее тело и другие» Кармен Марии Мачадо

Отрывок из книги Кармен Марии Мачадо о женской телесности и сексуальности

Esquire
Эмбодимент-программа: как можно развивать телесный интеллект Эмбодимент-программа: как можно развивать телесный интеллект

Зачем (и о чем) думать, пробегая марафон или качая бицепсы?

GQ
Открыть в приложении