Что нужно сделать, чтобы ИИ дал женщинам новые карьерные перспективы

ForbesHi-Tech

Вызов времени: как искусственный интеллект помогает бороться с дискриминацией

Все большее внедрение в разные сферы экономики систем исскусственного интеллекта может привести как к потенциальной дискриминации женщин, так и дать им новые карьерные перспективы. Разбираемся, что нужно сделать, чтобы развитие пошло по второму сценарию

Екатерина Ляпина

Фото REUTERS / Fabian Bimmer

Разговоры о том, что искусственный интеллект изменит рынок труда, ведутся годами. Сегодня фокус сместился с обсуждения неотвратимости будущего к оценке того, как и когда мир изменится и что это значит для всех нас. Попыток создания ИИ было уже несколько, но настоящий искусственный интеллект (Artificial General Intelligence), тот, который изображают в фильмах и книгах, еще далек от реализации. Что же на самом деле сейчас есть?

Не самый умный интеллект

Есть масса очень специализированных «умных алгоритмов», которые решают нишевые задачи, определяют закономерности на больших объемах данных. Они помогают принимать решения: например, остановить или разрешить подозрительную транзакцию, куда отправить грузы, выдать или не выдать кредит. Вероятность ошибки в таких системах меньше, чем если включается пресловутый человеческий фактор. Дальнейшее развитие алгоритмов, способных дополнять/заменять принятие решений человеком, позволит сократить позиции, требующие выполнения рутинных задач, которыми часто занимаются именно женщины. Так, уже сложно себе представить светлое будущее туроператоров, диспетчеров таксопарков, операционистов и ряда других профессий. Исследователи IMF прогнозируют, что 11% рабочих мест, занятых женщинами, в течение следующих двух десятилетий будет автоматизировано. А фокус будет смещен на саму разработку этих алгоритмов.

Все больше решений принимается автоматически и, к сожалению, не всегда в пользу женщин. Например, два года назад крупнейшему онлайн-ретейлеру Amazon пришлось «уволить» систему для автоматизированного просмотра резюме, так как она дискриминировала разработчиков женского пола. Такая ситуация произошла из-за того, что модели ИИ обучались на исторических данных за 10 лет. Тогда большинство кандидатов действительно были мужчинами, но из этого не следует, что они лучше справляются с техническими специальностями. Учитывая то, что алгоритмы быстро становятся ответственными за принятие все большего количества решений, наличие таких побочных эффектов представляет серьезную проблему.

Существует распространенное мнение, что алгоритмы просто улавливают взаимосвязь в имеющемся наборе данных. Но, фокусируясь на данных, легко игнорировать два аспекта этой проблемы: ограничения существующих алгоритмов и, что более важно, роль людей, ставящих алгоритмам задачу. Большинство алгоритмов только анализируют корреляционные отношения, ничего не понимая в них. Без вовлечения тех, кто решает проблемы и задает правильные вопросы, даже лучшие данные ничего не значат, ведь алгоритмы будут лишь отражать наши собственные предубеждения.

Разработчики систем ИИ, должны очень внимательно следить за тем, как формируются наборы данных для обучения алгоритмов, и отслеживать наличие предубеждений. Нужно следить за ошибками, которые совершает алгоритм: иногда их процент довольно низок, но они могут быть сделаны в отношении одной и той же группы людей. Например, скоринговая модель систематически отказывает в кредите людям, прописанным в китайском квартале. Такое поведение особенно опасно, ведь мы переносим все больше ответственности за принятие решений на систему. Некоторые используемые алгоритмы вообще не интерпретируемые, то есть мы не можем понять, почему было принято то или иное решение, какие именно факторы на него повлияли.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Все включено: как интернет изменил наш способ думать, жить и познавать мир Все включено: как интернет изменил наш способ думать, жить и познавать мир

Как пользование интернетом заставляет человеческий мозг работать по-новому

Esquire
via / feat. / vs — хитрости использования заимствованных предлогов и союзов via / feat. / vs — хитрости использования заимствованных предлогов и союзов

Пиши на латинице gramotno!

Maxim
Настройщики Настройщики

Как одна бережная и уважительная работа с телом может изменить жизнь к лучшему

Seasons of life
Повесть из книги Сухбата Афлатуни «Глиняные буквы, плывущие яблоки» Повесть из книги Сухбата Афлатуни «Глиняные буквы, плывущие яблоки»

Сборник разных повестей узбекского писателя Сухбата Афлатуни

СНОБ
Лукоморье и еще 6 сказочных стран, которые существовали на самом деле Лукоморье и еще 6 сказочных стран, которые существовали на самом деле

Эти страны из сказок и летописей существовали в реальности

Maxim
«Требуем расстрелять нашего сына»: самый молодой преступник в СССР «Требуем расстрелять нашего сына»: самый молодой преступник в СССР

Владимир Винничевский — самый молодой серийный убийца в СССР

Cosmopolitan
Искать единственную Искать единственную

Думаешь, ты нашел свою Единственную?

Playboy
Спутники помогли уличить китайских и северокорейских рыбаков в незаконном промысле Спутники помогли уличить китайских и северокорейских рыбаков в незаконном промысле

Комбинация четырех технологий позволила найти суда незаконной рыбной ловли

N+1
Нехватка воды заставила африканских комаров перейти на человеческую кровь Нехватка воды заставила африканских комаров перейти на человеческую кровь

Возможно, именно эти комары стали предками подвида, колонизировавшего весь мир

N+1
Правила жизни Эннио Морриконе Правила жизни Эннио Морриконе

Правила жизни итальянского композитора, аранжировщика и дирижера Эннио Морриконе

Esquire
Опытным шитьем Опытным шитьем

Знакомимся с дизайнерами, которые исследуют отношения между одеждой и телом

Seasons of life
Отрывок их книги Дмитрия Бавильского «Красная точка» Отрывок их книги Дмитрия Бавильского «Красная точка»

Первые главы романа Дмитрия Бавильского «Красная точка»

СНОБ
В растениях нашли скопления амилоида В растениях нашли скопления амилоида

В семенах гороха посевного обнаружены амилоидоподобные скопления запасных белков

N+1
Рыбам — аквамарин, а Тельцам — бирюза: камни, которые помогут тебе Рыбам — аквамарин, а Тельцам — бирюза: камни, которые помогут тебе

Подборка камней, которые помогут тебе пройти через сложные времена

Cosmopolitan
Кето-диета: что нужно знать, прежде чем пробовать Кето-диета: что нужно знать, прежде чем пробовать

Разбираемся, кому подходит кето-диета и чем она может быть опасна

РБК
Как быстро отрастить ногти: бьюти-рецепты и полезные советы для красивых ногтей Как быстро отрастить ногти: бьюти-рецепты и полезные советы для красивых ногтей

Хочешь иметь красивый маникюр? Тогда позаботься о здоровье ногтей!

Cosmopolitan
ЛиАЗ-667: история самого любимого автобуса в СССР ЛиАЗ-667: история самого любимого автобуса в СССР

ЛиАЗ-667 - такой же символ эпохи, как автомат с газировкой

Популярная механика
Повреждение гиппокампа не нарушило когнитивные функции макак-резусов Повреждение гиппокампа не нарушило когнитивные функции макак-резусов

Возможно, необходимо пересмотреть роль гиппокампа и других структур мозга

N+1
Наука и жизнь 1890: Фтористый этилъ Наука и жизнь 1890: Фтористый этилъ

Зачем понадобилось описывать свойства недавно синтезированного соединения?

Наука и жизнь
Марсианские хроники: почему марсоход NASA «Персеверанс» может совершить революцию в исследовании космоса (даже если не найдет на Марсе жизнь) Марсианские хроники: почему марсоход NASA «Персеверанс» может совершить революцию в исследовании космоса (даже если не найдет на Марсе жизнь)

Планетоход «Персеверанс» — самый продвинутый из всех аппаратов такого рода

Esquire
Виктор Цой. 1984 – 1988 Виктор Цой. 1984 – 1988

«Кино» требует развития, и Цой собирает электрический квартет

Esquire
Одна вокруг света: места Рериха и неуправляемый хаос Одна вокруг света: места Рериха и неуправляемый хаос

79-я серия о кругосветном путешествии москвички Ирины Сидоренко

Forbes
Стихия земли, или нечто Стихия земли, или нечто

В нашем герое западная культура смешалась с Владимирской областью

Seasons of life
Можно ли взорвать гранату выстрелом Можно ли взорвать гранату выстрелом

В кино пуля - идеальный детонатор, но в реальной жизни всё несколько сложнее

Популярная механика
Китайцы обманом увеличили численность редких крачек Китайцы обманом увеличили численность редких крачек

Китайские орнитологи успешно применили метод социального привлечения

N+1
Как $10 млрд от Баффета помогут энергетикам из США получать миллионы кубометров газа из навоза Как $10 млрд от Баффета помогут энергетикам из США получать миллионы кубометров газа из навоза

Dominion Energy превращается в гиганта возобновляемой энергетики

Forbes
Астрономы впервые увидели исчезновение короны черной дыры Астрономы впервые увидели исчезновение короны черной дыры

Корона вокруг сверхмассивной черной дыры сначала исчезла, а потом восстановилась

N+1
Почему  в вашей розетке фаза, скорее всего, подключена справа? Почему  в вашей розетке фаза, скорее всего, подключена справа?

Имеет ли значение расположение контактов в розетке?

CHIP
Что читать в отпуске: главные книжные новинки этого лета Что читать в отпуске: главные книжные новинки этого лета

Лучшие книжные новинки для летнего чтения

Forbes
Культура на кухне Культура на кухне

Антон Ковальков – о своем подходе к работе на кухне

Bones
Открыть в приложении