В принятии важных решений все чаще участвуют алгоритмы машинного обучения

GQHi-Tech

Машины рулят людьми

Текст: Антон Иванов. Коллажи: Алик Новожилов

0:00 /
1069.483

Нас призывают придерживаться принципов политкорректности и толерантности, но будет ли играть по этим правилам искусственный интеллект или, пока люди строят общество равных возможностей, где-то за кулисами их судьбы будут решать роботизированные алгоритмы, по-разному оценивающие представителей разных полов, рас и сексуальных меньшинств?

В принятии жизненно важных решений — от выдачи кредита до постановки медицинского диагноза — все чаще участвуют алгоритмы машинного обучения (ранние зачатки искусственного интеллекта). Во Франции так распределяют детей по школам, в Америке рассчитывают тюремный срок, который получит осужденный. Кредит, страховка, судьба претендента на вакантное место — все эти вопросы из-под власти людей уходят к роботам. В основе железной логики машин всегда лежит анализ огромных баз данных, но какая именно информация о вас станет решающей, не скажет никто.

«Сегодня можно создать алгоритмы, способные скомпрометировать человека и вторгнуться в его личную жизнь. Например, ученые из Стэнфорда в порядке эксперимента уже научили нейронные сети по фотографии человека довольно точно определять сексуальную ориентацию, — рассказывает вице-президент Тинькофф-банка Константин Маркелов. — Есть возможность распознать человека, попавшего в поле зрения видеокамеры, найти его профиль в соцсетях и через сервисы, которых множество, узнать о его поисковых запросах, маршрутах перемещений, достатке. После этого алгоритм может сделать тот или иной вывод — в зависимости от поставленной задачи». Выводы эти далеко не всегда бесстрастные.

Одними из первых тревогу забили ученые Принстонского университета, заметившие, что искусственный интеллект, обучающийся на текстовых источниках, быстро становится предвзятым и начинает считать белый цвет кожи и мужской пол преимуществами. Причина в том, что этими предрассудками наполнены наши книги, наш интернет и даже наш язык. Например, слово «профессионал» имеет положительную коннотацию, а «профессионалка» — несколько иную, и таких примеров множество. Даже тот факт, что слова «доктор» и «инженер» — мужского рода, уже наводит компьютер на мысль о том, что эти вакансии не для женщин. Компания Amazon уже пережила скандал с HR‑алгоритмом, который пытался нанимать только представителей сильного пола.

Искусственный интеллект, как ребенок, впитывает все, что ему дают. К чему приводит такое обучение, пущенное на самотек, мы увидели в 2016 году, когда чат-бот Tay от компании Microsoft за сутки из милого собеседника превратился в фашиста. «Люди — клевые» — таким было его первое сообщение, но уже вскоре он требовал смерти феминисток, признавался в ненависти к человечеству и говорил, что Гитлер был прав. Не значит ли это, что, доверив искусственному интеллекту свой мир сегодня, завтра мы окажемся в руках электронных безумцев?

Основатель компании Tazeros Global, специалист по обработке данных Артур Хачуян уверен, если это и произойдет, то виноваты будут сами люди: «Самостоятельного искусственного интеллекта пока не существует в принципе. Все алгоритмы машинного обучения исходят от людей и, соответственно, проблемы — тоже. Майкрософтовский бот стал расистом, потому что создавший его программист загрузил в него неправильную выборку данных. Так же и Tesla, сбившая велосипедистку, не смогла ее правильно распознать из-за ошибки инженера».

Этого же мнения придерживается и антивирусный эксперт «Лаборатории Касперского» Алексей Маланов: «Всему виной ложные корреляции — когда алгоритм видит связь между событиями там, где ее на самом деле нет. Пример — «робот», который распределял в медицинском центре Университета Питтсбурга больных в очереди на прием и решил, что люди, страдающие астмой и пневмонией одновременно, могут подождать. Логика была такой: по статистике пациенты с таким сочетанием диагнозов умирают редко, а значит, можно не спешить, но дело в том, что не умирают они именно потому, что им всегда первым оказывают помощь. Информацию об этом алгоритму не предоставили, и он построил неверную логическую цепочку». Данные — это грубый материал, который еще нужно обработать и в правильном виде загрузить в машину.

«Ранние зачатки искусственного интеллекта появились в 70‑80‑е годы XX века, но тогда они не могли работать: не хватало вычислительных мощностей и не было больших данных, на которых можно было бы учить системы, — рассказывает член Консультативного совета Роскомнадзора, директор исполкома Национального Дельфийского совета России Артемий Понявин. — Сегодня же в интернете столько информации, что для систем машинного обучения созданы идеальные условия».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Я делаю, что хочу ...и наслаждаюсь этим! Я делаю, что хочу ...и наслаждаюсь этим!

Ольга Бузова достигла того уровня свободы, когда она живет так, как хочет

Playboy
Создана нейросеть, ускоряющая поиск новых частиц на LHC Создана нейросеть, ускоряющая поиск новых частиц на LHC

Метод, ускоряющий моделирование процессов на Большом адронном коллайдере

Популярная механика
Криптовалюты. Поколение второе Криптовалюты. Поколение второе

От «цифрового золота» к полноценным деньгам

Популярная механика
«Все будет по-моему!» А если нет? «Все будет по-моему!» А если нет?

Чем непомерно высокая планка отличается от высоких стандартов

Psychologies
Деревянный Кремль Деревянный Кремль

Так, как Владимир Клавихо-Телепнев, Москву еще не снимал никто

GQ
Первый провал ЦБ. Почему регулятор не смог продать банк, который вылечил сам Первый провал ЦБ. Почему регулятор не смог продать банк, который вылечил сам

Прошла первая попытка продажи банка после оздоровления по новому механизму

Forbes
Большая ракета Илона Маска Большая ракета Илона Маска

Сверхтяжелая ракета Big Falcon Rocket готовится вытеснить все прошлые разработки

Популярная механика
Верим на слово Верим на слово

5 марта Еве Мендес исполняется 45

Grazia
Дачи не надо Дачи не надо

Герои GQ Travel выбрали пять отелей для дауншифтинга неподалеку от Москвы

GQ
15 вопросов режиссеру Тиму Бертону — о «Дамбо», бородатых женщинах и Бэтмене 15 вопросов режиссеру Тиму Бертону — о «Дамбо», бородатых женщинах и Бэтмене

В прокат вышел «Дамбо» — художественный фильм Тима Бертона

Esquire
Артист в ударе Артист в ударе

GQ встретился с одним из самых харизматичных российских актеров

GQ
Дмитрий Борисов Дмитрий Борисов

Компания «Полисан» вошла в тройку крупнейших российских экспортеров лекарств

Собака.ru
Про детские как бы игры Про детские как бы игры

Лев Рубинштейн вспоминает, каким был досуг детей до изобретения компьютеров

GQ
«Хит» начинает, играет и выигрывает «Хит» начинает, играет и выигрывает

Знакомимся с участниками музыкальной группы «Хит»

StarHit
Тысячи и одна ночь Тысячи и одна ночь

Как Instagram стал каталогом секс-услуг, а Telegram — инструментом сутенеров

GQ
За что мы не любим российский футбол За что мы не любим российский футбол

Рассказываем о том, как наша игра с мячом могла бы стать лучше

GQ
Победа любой сценой Победа любой сценой

У каждой эпохи тот Гамлет, которого она заслуживает

GQ
Не Цукербергом единым: чем опасны истории успеха Не Цукербергом единым: чем опасны истории успеха

Проанализируйте всю картину целиком — возможно, герою просто повезло

Forbes
15 мыслей Михаила Шишкина 15 мыслей Михаила Шишкина

Обладатель главных русских книжных премий не собирается возвращаться в страну

GQ
11 лучших фильмов против весенней хандры (обязательны к просмотру) 11 лучших фильмов против весенней хандры (обязательны к просмотру)

Эти фильмы — лучше всяких антидепрессантов!

Playboy
Их либе Глаубе Их либе Глаубе

Анна Глаубэ из спектакля «Очень смешная комедия о том, как шоу пошло не так»

Maxim
Пятнадцать лет спустя Пятнадцать лет спустя

Как с момента появления издания в России изменилась страна и герои Forbes

Forbes
Грехи Грехи

Мужчины, которые обеспечили себе место в аду, зарабатывая состояние и признание

Esquire
И это прекрасно И это прекрасно

Представительницы бьюти-индустрии обсудили работу в сфере красоты

Cosmopolitan
Слабое звено. Могут ли США ввести санкции против Армении Слабое звено. Могут ли США ввести санкции против Армении

Законы позволяют США принимать санкционные меры не только против России

Forbes
«Smart regulation» как основная концепция развития отрасли торговли «Smart regulation» как основная концепция развития отрасли торговли

Мнение Сергея Белякова, Председателя Президиума АКОРТ

Forbes
Что надо знать про Фрэнсиса Бэкона и Люсьена Фрейда, прежде чем идти в Пушкинский музей Что надо знать про Фрэнсиса Бэкона и Люсьена Фрейда, прежде чем идти в Пушкинский музей

Как устроена выставка «Фрэнсис Бэкон, Люсьен Фрейд и Лондонская школа»

Forbes
Марта Кауффман — о феноменальной популярности «Друзей» и о том, почему перезапуска никогда не будет Марта Кауффман — о феноменальной популярности «Друзей» и о том, почему перезапуска никогда не будет

Марта Кауффман о том, почему все по‑прежнему смотрят и любят «Друзей»

Esquire
Волна, рожденная миллиард лет назад: Юрий Мильнер о том, что вдохновляет предпринимателей Волна, рожденная миллиард лет назад: Юрий Мильнер о том, что вдохновляет предпринимателей

Миллиард лет назад где-то во Вселенной столкнулись две черные дыры

Forbes
Мы все больны бейсболом: культовый рэпер Айс Кьюб хочет провернуть с Disney сделку на $10 млрд Мы все больны бейсболом: культовый рэпер Айс Кьюб хочет провернуть с Disney сделку на $10 млрд

Айс Кьюб планирует построить медийную компанию на стыке спорта и развлечений

Forbes
Открыть в приложении