Отправиться в ссылки
Каждый день наши компьютеры что-нибудь нам предлагают: купить штаны, посмотреть кино, забронировать отель, встретиться с девушкой или парнем – все это на основе демографического анализа и истории наших предыдущих покупок. Что если вместо того, чтобы презрительно отмахиваться, мы действительно позволили бы компьютерам управлять нашей жизнью? Esquire предложил журналисту Ричарду Бенсону пожить так, как этого требовали алгоритмы.
«Наступает не просто новая эпоха в истории человеческой цивилизации — мы на пороге нового этапа эволюции разумной жизни на Земле. Программист становится своего рода божеством», – говорил еще в 2015 году профессор Вашингтонского университета Педро Домингос. Он не единственный, кто восторженно отнесся к перспективам развития алгоритмов. Созданный Google искусственный интеллект AlphaGo выиграл у чемпиона мира по го. Профессор Юваль Ной Харари опубликовал книгу Homo Deus, в которой утверждал, что благодаря алгоритмам компьютеры вскоре станут умнее людей, будут делать за них всю работу, а люди отправятся в бесконечный отпуск.
Не знаю, что Домингос и Харари думают теперь, в 2020-м, но большинство людей относится к подобным обещаниям скептически, и это можно понять без помощи компьютера.
В этом году мы узнали много нового о бесполезности разного рода прогнозов. В частности, мы научились не доверять алгоритмам. Летом из-за пандемии в британских школах отменили все выпускные экзамены. Оценки школьникам ставил наскоро созданный алгоритм – на основе успеваемости и среднего уровня школы.
На практике это значило, что многие прилежные ученики из плохих школ получили оценки хуже, чем могли бы, а слабые ученики из дорогих частных школ стали получать пятерки. Алгоритм лишил образовательную систему последних претензий на справедливость. Общество возмутилось, пристыженные власти сделали разворот на 180 градусов, дети получили оценки на основе прежней успеваемости, без алгоритмической поправки на уровень школы.
Всякий, кто регулярно заходит в интернет, быстро перестает доверять алгоритмам. Достаточно включить ноутбук или телефон, и тебе сразу советуют, что посмотреть, что купить, в кого влюбиться. Иногда эти рекомендации бывают довольно вменяемыми, но чаще – до смешного нелепыми; алгоритму при этом кажется, что он знает, чего хотите именно вы, – у него есть полная информация о ваших покупках, предпочтениях и привычках.
Этим летом я, как и большая часть людей на планете, оказался заперт дома. Я задумался: как выглядел бы мир, если бы мы позволили алгоритмам решать за нас, как нам жить? Примерно как Люк Рейнхард, герой опубликованного в 1971-м культового романа «Человек жребия», решавший все при помощи игральных костей (тот факт, что герой романа в конце концов стал убийцей, я решил проигнорировать).
Целый месяц я отдавал на откуп алгоритмам все решения, какие мог: что есть, что покупать, что смотреть. Какими бы странными, неприятными или опасными ни были эти рекомендации, я был обязан им следовать. Если бы алгоритм действительно понимал, чего я на самом деле хочу, моя жизнь изменилась бы не сильно – например, Facebook (соцсеть признана в РФ экстремистской и запрещена) регулярно рекламировал бы мне все, что я и так уже купил на Amazon. Но что если нет? Что если алгоритмы окажутся понастоящему плохи?
Прежде всего разберемся, что такое алгоритм? Это набор вопросов и инструкций для решения какой-либо проблемы. Допустим, если вы владеете ночным клубом, вам пригодится инструкция для фейсконтроля: во-первых, проверить возраст гостей. Во-вторых, если они младше 18, не пускать их внутрь. В третьих, если им точно исполнилось 18, впустить их. Поздравляю, вы написали алгоритм. Компьютеры принимают решения похожим образом – только инструкции у них сложнее, а цепочки вопросов и ответов много длиннее.
Однако, когда мы говорим об алгоритмах, которые нас раздражают, мы имеем в виду в первую очередь те алгоритмы, которые получают доступ к нашей личной информации и пытаются на ее основе решить, что показать нам дальше. Если вы зайдете в свой аккаунт на Amazon, положите в корзину продукты, а потом наберете в строке поиска «кола», то узнаете, считает ли вас система любителем кока-колы или пепси-колы.
Так что я сосредоточился на исследовании двух типов алгоритмов – тех, которые рекомендовали мне что-нибудь, и тех, которые подбирали для меня рекламу.
День первый (понедельник)
Чтобы полностью подчиниться власти компьютера, я покупаю и ставлю на кухне сразу две умные колонки: Nest Audio от Google и Echo Show от Amazon. У них разный характер: Nest – своего рода аудиоверсия Google, она просто зачитывает информацию с сайтов, а в Echo встроена Алекса, голосовой помощник, изображающий человека. Я прошу ее включить Radio One, но вместо этого включается плей-лист под названием «жизнерадостная поп-музыка».
Сообщения на экране предлагают мне задавать Алексе вопросы – например, спросить, была ли она когда-нибудь в Йоркшире. Это немного зловеще: я сам из Йоркшира, часто там бываю, и Amazon иногда доставляет мои покупки туда. Ну хорошо.
– Алекса, ты была когда-нибудь в Йоркшире?
В ответ голосовой ассистент показывает мне фотографии Йоркшира и шутит про Йоркшир с йоркширским акцентом.
Справедливости ради, Англия – самая нарциссическая страна на свете, и многим бы это понравилось. Но лично мне этот прием кажется пошловатым, и к тому же он укрепляет мою нелюбовь к фамильярным алгоритмам.
– Алекса, отвали, – говорю я. Помощник молчит. Продолжает играть «жизнерадостная поп-музыка».
День второй (вторник)
Я спрашиваю Алексу, что мне съесть на завтрак. Она предлагает картошку фри с сыром. Пытается шутить? Трудно сказать. Пока я жарю картошку, Лаура, моя жена, просыпается и приходит на кухню, чтобы сварить себе кофе.
– Ну и зачем у нас на кухне столько гаджетов? – спрашивает она.
– Я же говорил, – отвечаю я, – я теперь подчиняюсь алгоритмам.
Лаура смотрит на меня косо и открывает холодильник.
– Алекса, – говорит она, – можешь сходить в магазин за молоком? Ричард, как обычно, допил последнее.
– Не поняла вас, – отвечает голосовой помощник.
День третий (среда)
Я еду на работу и, прежде чем купить кофе, узнаю у приложений Amazon и Costa, что мне взять вместо моего обычного эспрессо. Приходится пить латте. В вагоне поезда я работаю – а потом решаю, что должен купить первое, что мне прорекламируют. Это месячная подписка на Volvo CX60. Сказал А – не говори потом, что не хочешь потратить 699 фунтов (без НДС).
Под впечатлением от этой попытки я позволяю сайту booking.com выбрать, где мне провести выходные. Внутренне я надеюсь на Италию. Сайт отправляет меня в Харрогит (Северный Йоркшир).
Из музыки последние три дня я слушаю только рекомендации Spotify. Большая часть песен мне не нравятся, а те, которые нравятся, не подходят к обстановке: я люблю громкий хаус, но в два часа ночи, а не утром, когда выгуливаю собаку под дождем. Многое просто нелепо: кто мог подумать, что я захочу когда-нибудь послушать проходные треки с сольных альбомов Арта Гарфанкела?
Я пытаюсь понять логику Spotify. Арт Гарфанкел вроде бы фолк? Может быть, в подборку он попал, потому что я в последнее время часто слушал саундтрек к фильму «Плетеный человек»? Партия клавишных на следующем треке чем-то напоминает Metronomy, а я их фанат. Ничего не скажешь, умно.
Пытаться понять, как работает алгоритм, увлекательно – гораздо интереснее, чем слушать плей-лист, который он подобрал.
День четвертый (четверг)
Одно из бесспорных преимуществ алгоритмов – они заставляют вас попробовать все, что вы давно собирались попробовать. Недалеко от меня есть паб, который все хвалят, но где я никогда не был, потому что мне лень потратить лишние пять минут на дорогу. Nest велит мне сходить. Отличный вечер.
С другой стороны, жить с алгоритмами – это как жить с женщиной, которую вы, конечно, любите и уважаете, но которая иногда дарит вам такие подарки, что сразу становится ясно: вы никогда не поймете друг друга по-настоящему. Сегодняшний пример: магазин аудиокниг Audible. Я скачиваю аудиокнигу, чтобы послушать по дороге в проклятый Харрогит. В последнее время я слушал либо книги по истории афро американцев, либо книги о походах и экспедициях. Алгоритм рекомендует мне труд под названием «Вторжение чуждых видов». Это книга о том, как «наш остров был завоеван и освоен множеством животных, растений, грибов и других иностранных форм жизни, которым здесь не место».