В принятии важных решений все чаще участвуют алгоритмы машинного обучения

GQHi-Tech

Машины рулят людьми

Текст: Антон Иванов. Коллажи: Алик Новожилов

0:00 /
1069.483

Нас призывают придерживаться принципов политкорректности и толерантности, но будет ли играть по этим правилам искусственный интеллект или, пока люди строят общество равных возможностей, где-то за кулисами их судьбы будут решать роботизированные алгоритмы, по-разному оценивающие представителей разных полов, рас и сексуальных меньшинств?

В принятии жизненно важных решений — от выдачи кредита до постановки медицинского диагноза — все чаще участвуют алгоритмы машинного обучения (ранние зачатки искусственного интеллекта). Во Франции так распределяют детей по школам, в Америке рассчитывают тюремный срок, который получит осужденный. Кредит, страховка, судьба претендента на вакантное место — все эти вопросы из-под власти людей уходят к роботам. В основе железной логики машин всегда лежит анализ огромных баз данных, но какая именно информация о вас станет решающей, не скажет никто.

«Сегодня можно создать алгоритмы, способные скомпрометировать человека и вторгнуться в его личную жизнь. Например, ученые из Стэнфорда в порядке эксперимента уже научили нейронные сети по фотографии человека довольно точно определять сексуальную ориентацию, — рассказывает вице-президент Тинькофф-банка Константин Маркелов. — Есть возможность распознать человека, попавшего в поле зрения видеокамеры, найти его профиль в соцсетях и через сервисы, которых множество, узнать о его поисковых запросах, маршрутах перемещений, достатке. После этого алгоритм может сделать тот или иной вывод — в зависимости от поставленной задачи». Выводы эти далеко не всегда бесстрастные.

Одними из первых тревогу забили ученые Принстонского университета, заметившие, что искусственный интеллект, обучающийся на текстовых источниках, быстро становится предвзятым и начинает считать белый цвет кожи и мужской пол преимуществами. Причина в том, что этими предрассудками наполнены наши книги, наш интернет и даже наш язык. Например, слово «профессионал» имеет положительную коннотацию, а «профессионалка» — несколько иную, и таких примеров множество. Даже тот факт, что слова «доктор» и «инженер» — мужского рода, уже наводит компьютер на мысль о том, что эти вакансии не для женщин. Компания Amazon уже пережила скандал с HR‑алгоритмом, который пытался нанимать только представителей сильного пола.

Искусственный интеллект, как ребенок, впитывает все, что ему дают. К чему приводит такое обучение, пущенное на самотек, мы увидели в 2016 году, когда чат-бот Tay от компании Microsoft за сутки из милого собеседника превратился в фашиста. «Люди — клевые» — таким было его первое сообщение, но уже вскоре он требовал смерти феминисток, признавался в ненависти к человечеству и говорил, что Гитлер был прав. Не значит ли это, что, доверив искусственному интеллекту свой мир сегодня, завтра мы окажемся в руках электронных безумцев?

Основатель компании Tazeros Global, специалист по обработке данных Артур Хачуян уверен, если это и произойдет, то виноваты будут сами люди: «Самостоятельного искусственного интеллекта пока не существует в принципе. Все алгоритмы машинного обучения исходят от людей и, соответственно, проблемы — тоже. Майкрософтовский бот стал расистом, потому что создавший его программист загрузил в него неправильную выборку данных. Так же и Tesla, сбившая велосипедистку, не смогла ее правильно распознать из-за ошибки инженера».

Этого же мнения придерживается и антивирусный эксперт «Лаборатории Касперского» Алексей Маланов: «Всему виной ложные корреляции — когда алгоритм видит связь между событиями там, где ее на самом деле нет. Пример — «робот», который распределял в медицинском центре Университета Питтсбурга больных в очереди на прием и решил, что люди, страдающие астмой и пневмонией одновременно, могут подождать. Логика была такой: по статистике пациенты с таким сочетанием диагнозов умирают редко, а значит, можно не спешить, но дело в том, что не умирают они именно потому, что им всегда первым оказывают помощь. Информацию об этом алгоритму не предоставили, и он построил неверную логическую цепочку». Данные — это грубый материал, который еще нужно обработать и в правильном виде загрузить в машину.

«Ранние зачатки искусственного интеллекта появились в 70‑80‑е годы XX века, но тогда они не могли работать: не хватало вычислительных мощностей и не было больших данных, на которых можно было бы учить системы, — рассказывает член Консультативного совета Роскомнадзора, директор исполкома Национального Дельфийского совета России Артемий Понявин. — Сегодня же в интернете столько информации, что для систем машинного обучения созданы идеальные условия».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Охота на Лисовую Охота на Лисовую

Мария Лисовая олицетворяет красоту землян в блокбастере «Вратарь Галактики»

Maxim
Крым. Точка невозврата. RU Крым. Точка невозврата. RU

Чем и как живет полуостров спустя пять лет после русской весны

Русский репортер
Дачи не надо Дачи не надо

Герои GQ Travel выбрали пять отелей для дауншифтинга неподалеку от Москвы

GQ
Рекордсмен, каких свет не видывал: Ан-225 «Мрия» Рекордсмен, каких свет не видывал: Ан-225 «Мрия»

Ан-225 «Мрия» создавалась и готовилась для долгой и сложной работы

Популярная механика
Мяу по-русски Мяу по-русски

Налаживая связь с человеком, кошки изменили тональность мяуканья

Популярная механика
Парень прислал девушке странный список требований через три месяца после неудачного свидания Парень прислал девушке странный список требований через три месяца после неудачного свидания

Жаль, что Премию Дарвина не дают пользователям сайтов знакомств

Maxim
Артист в ударе Артист в ударе

GQ встретился с одним из самых харизматичных российских актеров

GQ
Почему сейчас дизайнеры так увлечены созданием мужских сумок? Почему сейчас дизайнеры так увлечены созданием мужских сумок?

Мы живем в эпоху мужских аксессуаров

GQ
Двери открываются Двери открываются

Московское метро: античные храмы, целые библиотеки, роскошь и хай-тек

GQ
«Хит» начинает, играет и выигрывает «Хит» начинает, играет и выигрывает

Знакомимся с участниками музыкальной группы «Хит»

StarHit
Тысячи и одна ночь Тысячи и одна ночь

Как Instagram стал каталогом секс-услуг, а Telegram — инструментом сутенеров

GQ
Феномен абсолютного зла, или почему третий сезон «Настоящего детектива» получился не хуже первого Феномен абсолютного зла, или почему третий сезон «Настоящего детектива» получился не хуже первого

На HBO завершился третий сезон «Настоящего детектива»

Esquire
Про детские как бы игры Про детские как бы игры

Лев Рубинштейн вспоминает, каким был досуг детей до изобретения компьютеров

GQ
9 мужских наручных часов, которые стоят, как маленький остров (а так и не скажешь) 9 мужских наручных часов, которые стоят, как маленький остров (а так и не скажешь)

Не все то дорого, что с бриллиантами

Playboy
Победа любой сценой Победа любой сценой

У каждой эпохи тот Гамлет, которого она заслуживает

GQ
Как встречаться с девушкой, у которой есть ребенок: 5 главных правил Как встречаться с девушкой, у которой есть ребенок: 5 главных правил

Пора серьезно об этом поговорить

Playboy
Деревянный Кремль Деревянный Кремль

Так, как Владимир Клавихо-Телепнев, Москву еще не снимал никто

GQ
Видит будущее Видит будущее

Патриция Бамби о футуризме, эпохе диджитал и переменах в моде

Grazia
Глава 1: Москва Глава 1: Москва

Ты говорил, город – сила. А здесь слабые все

Esquire
10 продуктов, которые ты все это время хранила неправильно 10 продуктов, которые ты все это время хранила неправильно

Делимся лайфхаками, как дольше сохранять продукты свежими

Cosmopolitan
Нота протеста Нота протеста

Музыкант Владимир Спиваков сегодня празднует свою победу и юбилей

GQ
Снимаем шляпу! Снимаем шляпу!

Звезда нового сериала «Мылодрама» Янина Мелехова

Maxim
Человек и салат: 9 мифов о Юлии Цезаре Человек и салат: 9 мифов о Юлии Цезаре

Правда и мифы о Юлии Цезаре

Вокруг света
Есть такая профессия Есть такая профессия

Женщинам до сих пор непросто конкурировать с мужчинами в арт-индустрии

Grazia
Kia Stinger: На каждый день Kia Stinger: На каждый день

Минпромторг включил этот лифтбек в перечень роскошных автомобилей

АвтоМир
Как создать прикольный мем онлайн прямо сейчас Как создать прикольный мем онлайн прямо сейчас

Создайте себе собственную коллекцию мемов - это делается элементарно

CHIP
Похороны Сталина из окна американского посольства напротив Кремля (видео) Похороны Сталина из окна американского посольства напротив Кремля (видео)

Это уникальная цветная кинохроника была обнаружена всего три года назад

Maxim
Mail.ru Group хочет купить долю в сервисе каршеринга YouDrive Mail.ru Group хочет купить долю в сервисе каршеринга YouDrive

Холдинг Алишера Усманова может стать миноритарным акционером

Forbes
Что определяет нашу личность Что определяет нашу личность

Проблема тождества личности

Psychologies
«Сталин знал, что делал, или заблуждался?» — записки из зала после развенчания культа личности «Сталин знал, что делал, или заблуждался?» — записки из зала после развенчания культа личности

XX съезд стал для многих источником смятения и даже паники

Maxim
Открыть в приложении