В принятии важных решений все чаще участвуют алгоритмы машинного обучения

GQHi-Tech

Машины рулят людьми

Текст: Антон Иванов. Коллажи: Алик Новожилов

0:00 /
1069.483

Нас призывают придерживаться принципов политкорректности и толерантности, но будет ли играть по этим правилам искусственный интеллект или, пока люди строят общество равных возможностей, где-то за кулисами их судьбы будут решать роботизированные алгоритмы, по-разному оценивающие представителей разных полов, рас и сексуальных меньшинств?

В принятии жизненно важных решений — от выдачи кредита до постановки медицинского диагноза — все чаще участвуют алгоритмы машинного обучения (ранние зачатки искусственного интеллекта). Во Франции так распределяют детей по школам, в Америке рассчитывают тюремный срок, который получит осужденный. Кредит, страховка, судьба претендента на вакантное место — все эти вопросы из-под власти людей уходят к роботам. В основе железной логики машин всегда лежит анализ огромных баз данных, но какая именно информация о вас станет решающей, не скажет никто.

«Сегодня можно создать алгоритмы, способные скомпрометировать человека и вторгнуться в его личную жизнь. Например, ученые из Стэнфорда в порядке эксперимента уже научили нейронные сети по фотографии человека довольно точно определять сексуальную ориентацию, — рассказывает вице-президент Тинькофф-банка Константин Маркелов. — Есть возможность распознать человека, попавшего в поле зрения видеокамеры, найти его профиль в соцсетях и через сервисы, которых множество, узнать о его поисковых запросах, маршрутах перемещений, достатке. После этого алгоритм может сделать тот или иной вывод — в зависимости от поставленной задачи». Выводы эти далеко не всегда бесстрастные.

Одними из первых тревогу забили ученые Принстонского университета, заметившие, что искусственный интеллект, обучающийся на текстовых источниках, быстро становится предвзятым и начинает считать белый цвет кожи и мужской пол преимуществами. Причина в том, что этими предрассудками наполнены наши книги, наш интернет и даже наш язык. Например, слово «профессионал» имеет положительную коннотацию, а «профессионалка» — несколько иную, и таких примеров множество. Даже тот факт, что слова «доктор» и «инженер» — мужского рода, уже наводит компьютер на мысль о том, что эти вакансии не для женщин. Компания Amazon уже пережила скандал с HR‑алгоритмом, который пытался нанимать только представителей сильного пола.

Искусственный интеллект, как ребенок, впитывает все, что ему дают. К чему приводит такое обучение, пущенное на самотек, мы увидели в 2016 году, когда чат-бот Tay от компании Microsoft за сутки из милого собеседника превратился в фашиста. «Люди — клевые» — таким было его первое сообщение, но уже вскоре он требовал смерти феминисток, признавался в ненависти к человечеству и говорил, что Гитлер был прав. Не значит ли это, что, доверив искусственному интеллекту свой мир сегодня, завтра мы окажемся в руках электронных безумцев?

Основатель компании Tazeros Global, специалист по обработке данных Артур Хачуян уверен, если это и произойдет, то виноваты будут сами люди: «Самостоятельного искусственного интеллекта пока не существует в принципе. Все алгоритмы машинного обучения исходят от людей и, соответственно, проблемы — тоже. Майкрософтовский бот стал расистом, потому что создавший его программист загрузил в него неправильную выборку данных. Так же и Tesla, сбившая велосипедистку, не смогла ее правильно распознать из-за ошибки инженера».

Этого же мнения придерживается и антивирусный эксперт «Лаборатории Касперского» Алексей Маланов: «Всему виной ложные корреляции — когда алгоритм видит связь между событиями там, где ее на самом деле нет. Пример — «робот», который распределял в медицинском центре Университета Питтсбурга больных в очереди на прием и решил, что люди, страдающие астмой и пневмонией одновременно, могут подождать. Логика была такой: по статистике пациенты с таким сочетанием диагнозов умирают редко, а значит, можно не спешить, но дело в том, что не умирают они именно потому, что им всегда первым оказывают помощь. Информацию об этом алгоритму не предоставили, и он построил неверную логическую цепочку». Данные — это грубый материал, который еще нужно обработать и в правильном виде загрузить в машину.

«Ранние зачатки искусственного интеллекта появились в 70‑80‑е годы XX века, но тогда они не могли работать: не хватало вычислительных мощностей и не было больших данных, на которых можно было бы учить системы, — рассказывает член Консультативного совета Роскомнадзора, директор исполкома Национального Дельфийского совета России Артемий Понявин. — Сегодня же в интернете столько информации, что для систем машинного обучения созданы идеальные условия».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Пришел Кутузов бить французов: 7 мифов о легендарном генерал-фельдмаршале Пришел Кутузов бить французов: 7 мифов о легендарном генерал-фельдмаршале

Масон, заговорщик, бездарный полководец, «выезжавший» за счет чужих достижений?

Вокруг света
Не успеваем в роддом! Не успеваем в роддом!

Пошаговая инструкция, как принять роды

9 месяцев
Памяти 11 сентября: очерк «Падающий человек» о самом известном снимке теракта в башнях-близнецах в Нью-Йорке Памяти 11 сентября: очерк «Падающий человек» о самом известном снимке теракта в башнях-близнецах в Нью-Йорке

О самом известном снимке теракта в башнях-близнецах в Нью-Йорке

Esquire
Фрустрация: что с ней делать и как предотвратить Фрустрация: что с ней делать и как предотвратить

Как выработать к фрустрации устойчивый иммунитет

Psychologies
Про детские как бы игры Про детские как бы игры

Лев Рубинштейн вспоминает, каким был досуг детей до изобретения компьютеров

GQ
Коробка счастья. Как сервис доставки одежды обошел по инновационности Apple Коробка счастья. Как сервис доставки одежды обошел по инновационности Apple

Что помогло сервису доставки одежды обойти по инновационности мировых гигантов

Forbes
Деревянный Кремль Деревянный Кремль

Так, как Владимир Клавихо-Телепнев, Москву еще не снимал никто

GQ
Итог расследования спецпрокурора Мюллера: санкции всерьез и надолго Итог расследования спецпрокурора Мюллера: санкции всерьез и надолго

Письмо генпрокурора США Уильяма Барра Конгрессу спровоцирует новые сложности

Forbes
Двери открываются Двери открываются

Московское метро: античные храмы, целые библиотеки, роскошь и хай-тек

GQ
KPI от отчаяния. Что не так с оценкой работы чиновников KPI от отчаяния. Что не так с оценкой работы чиновников

Как авторы внедрения KPI в государственное управление повторяют старую ошибку

Forbes
Артист в ударе Артист в ударе

GQ встретился с одним из самых харизматичных российских актеров

GQ
Мини-пиги и мини-тигры: откуда берутся уменьшенные версии больших животных Мини-пиги и мини-тигры: откуда берутся уменьшенные версии больших животных

Тысячелетиями люди занимались селекцией животных

Популярная механика
Победа любой сценой Победа любой сценой

У каждой эпохи тот Гамлет, которого она заслуживает

GQ
Нас и там неплохо кормят Нас и там неплохо кормят

13 отличных российских ресторанов, куда надо зайти на чужбине

GQ
Тысячи и одна ночь Тысячи и одна ночь

Как Instagram стал каталогом секс-услуг, а Telegram — инструментом сутенеров

GQ
Своя игра Своя игра

Шарлотта Бильтген готова к компромиссам с заказчиком

AD
Дачи не надо Дачи не надо

Герои GQ Travel выбрали пять отелей для дауншифтинга неподалеку от Москвы

GQ
«Время возмездия» — еще один «Настоящий детектив». На этот раз — с Николь Кидман «Время возмездия» — еще один «Настоящий детектив». На этот раз — с Николь Кидман

В прокат вышло «Время возмездия» — полицейский триллер с Николь Кидман

Esquire
Забавные, но эффективные способы борьбы с тревогой Забавные, но эффективные способы борьбы с тревогой

Можно ли самому справиться с тревожным расстройством?

Psychologies
Какие цветы дарить девушке? Лучшие варианты на разные случаи Какие цветы дарить девушке? Лучшие варианты на разные случаи

Цветы, которые работают

Playboy
Дети редакции Дети редакции

Российский биолог, кажется, нашел повод изменить ДНК человеческого эмбриона

Популярная механика
10 важнейших российских правозащитниц, посвятивших жизнь борьбе за правду 10 важнейших российских правозащитниц, посвятивших жизнь борьбе за правду

Женщины, которые всю жизнь боролись за справедливость

Playboy
11 способов становиться немного умнее каждый день 11 способов становиться немного умнее каждый день

Интеллект, как и тело, требует правильного питания и регулярных тренировок

Psychologies
Ник Вуйчич: «Я должен поддерживать и вдохновлять людей» Ник Вуйчич: «Я должен поддерживать и вдохновлять людей»

Он сумел стать счастливым и теперь считает необходимым делать счастливыми других

Psychologies
Высшая лига: самые стильные модели плащей весны-2019 Высшая лига: самые стильные модели плащей весны-2019

Стильный плащ — неизменный атрибут весеннего гардероба

Cosmopolitan
Экзамен для самой себя Экзамен для самой себя

Ангелина Стречина возглавляет рейтинг перспективных актрис российского кино

OK!
Как понять, что любишь девушку? Чеклист из 8 главных признаков Как понять, что любишь девушку? Чеклист из 8 главных признаков

Любовь может подкрасться, когда ты ожидаешь ее меньше всего.

Playboy
Риск на $5 млрд: почему весь мир «приземлил» Boeing Риск на $5 млрд: почему весь мир «приземлил» Boeing

Как Boeing «перемудрил» с улучшением конструкции лайнера 737 MAX

Forbes
Со всем уважением. Чем обернется для Рунета  закон об оскорблении власти Со всем уважением. Чем обернется для Рунета  закон об оскорблении власти

Штрафные санкции за оскорбление власти открывают путь к злоупотреблениям

Forbes
Клей нации. Как присоединение Крыма раскалывает общество Клей нации. Как присоединение Крыма раскалывает общество

Крым стал рутиной и в то же время расколол нацию, склеенную одним мифом

Forbes
Открыть в приложении