Для нейросети нет разницы, какого пола и расы человека необходимо распознавать

ForbesHi-Tech

Вежливая сеть: как научить искусственный интеллект относиться к людям непредвзято

Для нейросети нет разницы, какого пола и расы человека необходимо распознавать. Проблема заключается не в характеристиках программы, а в качестве обучения

Александр Ханин

Фото Alain Pitton / NurPhoto via Getty Images

Мир начинает переживать из-за предвзятости искусственного интеллекта в системах распознавания лиц. Люди беспокоятся, что такие системы изначально «хорошо относятся» только к европейцам.

 

Год назад разработчик системы распознавания лиц Gfycat удивился, когда его система не распознала некоторых азиатских сотрудников. Исследование аналогичных систем Microsoft и IBT показало, что они были на 95% точнее при распознавании женщин со светлой кожей. Компании рассказали, что улучшили собственные алгоритмы, но не уточнили, каким образом.

По каким признакам нейросеть определяет расовую принадлежность человека

Никто не сможет точно рассказать, как именно нейросеть учится распознавать лица, на что она обращает внимание. Многим факторам, на основании которых нейросеть распознает лица, она научилась сама. Она сравнивает миллионы фотографий, находит общие признаки и учитывает их внутри своей системы. При обучении нейросеть в явном в виде не выдает различие между разными типами лиц по расовому признаку, но в своих найденных признаках свойство расы может быть отражено, так как оно помогает нейросети ориентироваться по разным типам лиц. Эти признаки могут никак не интерпретироваться человеком, потому что это набор нулей и единиц.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Экономисты описали выбор властей между «разумной достаточностью» и шоком Экономисты описали выбор властей между «разумной достаточностью» и шоком

Экономика оказалась между двумя сценариями поведения финансовых властей

Forbes
Поверить в сказку Поверить в сказку

На канале «Россия 1» стартовал сезон конкурса юных талантов «Синяя птица»

OK!
Это я беру на себя: почему бизнес все чаще размещает IT-решения на своих серверах Это я беру на себя: почему бизнес все чаще размещает IT-решения на своих серверах

Почему бизнес предпочитает развивать свою IT-инфраструктуру?

Forbes
Всему голова Всему голова

Как работает психосоматика

Cosmopolitan
Дискуссия о формате: почему российской рознице нужны единые стандарты регулирования Дискуссия о формате: почему российской рознице нужны единые стандарты регулирования

Государство хочет установить правила регулирования работы маркетплейсов

Forbes
Три мифа об изменах Три мифа об изменах

Измены приносят боль, унижение, разочарование и потерю доверия

Psychologies
Хакеры бывают патриотами Хакеры бывают патриотами

Кибердружина о выборах в США, трагедии в Кемерово и группах смерти

Русский репортер
Надувная лодка: как акулы яхтенного бизнеса обманывают миллиардеров Надувная лодка: как акулы яхтенного бизнеса обманывают миллиардеров

Как брокеры могут нажиться на неразборчивости и неосведомленности клиентов

Forbes
Цвет общества Цвет общества

На­след­ник неф­тя­ных мил­ли­ар­дов Джо Гет­ти и его же­на Са­би­на

Vogue
Свой человек: чем дружба с чиновниками грозит малому и среднему бизнесу Свой человек: чем дружба с чиновниками грозит малому и среднему бизнесу

Корпоративный GR помогает добиваться нужных решений в интересах компании

Forbes
Бог с ними: как складывались отношения моды и религии на протяжении XX века Бог с ними: как складывались отношения моды и религии на протяжении XX века

Вдохновившись выставкой в Метрополитен-музее, рассказываем о моде и религии

Vogue
Как выжить при ядерной атаке: 9 советов Как выжить при ядерной атаке: 9 советов

Последнее время СМИ все чаще пишут об угрозе ядерной войны

Популярная механика
Дна не видно. Как реагировать инвестору на обвал российского фондового рынка Дна не видно. Как реагировать инвестору на обвал российского фондового рынка

Падение российских фондовых индексов из-за новых санкций США — только начало

Forbes
Покажи своему цинику: фильмы, которые заставят поверить в вечную любовь Покажи своему цинику: фильмы, которые заставят поверить в вечную любовь

Можно сколько угодно спорить о том, что такое любовь

Cosmopolitan
Проще пареной репы. Как женщины управляют продуктовым ритейлом Проще пареной репы. Как женщины управляют продуктовым ритейлом

Что видит женщина в магазинной еде, и чего не видит мужчина?

Forbes
Страховое бессилие. Почему водители отказываются от ОСАГО Страховое бессилие. Почему водители отказываются от ОСАГО

В чем причина падения спроса на обязательное автострахование?

Forbes
Mitsubishi Eclipse Cross Mitsubishi Eclipse Cross

Оригинальным кроссовером японская компания перечеркнула былые свершения

Quattroruote
Особый ребенок в классе: проблема или удача? Особый ребенок в классе: проблема или удача?

Инклюзивное образование в России практикуется во многих школах

Psychologies
Два экспортера. Чему российская газовая отрасль может поучиться у Канады Два экспортера. Чему российская газовая отрасль может поучиться у Канады

Канада готовится стать крупным игроком на рынке сжиженного природного газа

Forbes
5 суперзвезд Голливуда, которые исчезли с экрана: почему они перестали сниматься 5 суперзвезд Голливуда, которые исчезли с экрана: почему они перестали сниматься

Куда пропали Камерон Диаз и другие кинозвезды первой величины

Cosmopolitan
Лори и все ее личности: кто такая Лори Эрика Рафф? Лори и все ее личности: кто такая Лори Эрика Рафф?

Зачем девушке потребовалась другая личность?

Cosmopolitan
Опасный рынок. Почему иностранные инвестфонды даже не смотрят на недвижимость в России Опасный рынок. Почему иностранные инвестфонды даже не смотрят на недвижимость в России

Новые иностранные игроки не приходят на рынок недвижимости в России

Forbes
Давайте полегче Давайте полегче

Да­ко­та Фэн­нинг за­ду­мы­ва­ет­ся о ма­те­рин­стве

Vogue
Аппарат Gaia может быть использован для поиска внеземных цивилизаций Аппарат Gaia может быть использован для поиска внеземных цивилизаций

Недавно астрономы составили самую подробную карту Млечного Пути

Популярная механика
Андрей Смирнов: Заяц должен быть серым Андрей Смирнов: Заяц должен быть серым

Эту очень личную историю режиссер посвятил врачу Антонине Николаевне Петровой

СНОБ
Валерия: “Шаг в пропасть, я зажмурилась и перестала дышать” Валерия: “Шаг в пропасть, я зажмурилась и перестала дышать”

Выводы, которые Валерия сделала еще до 50 лет

Psychologies
По красоте: как новая социальная сеть изменит бьюти-индустрию По красоте: как новая социальная сеть изменит бьюти-индустрию

Скоро появится социальная сеть, которая готова тягаться с Instagram

Forbes
Умная связь: когда заработают сети 5G и что мешает их развитию Умная связь: когда заработают сети 5G и что мешает их развитию

Сотовые сети пятого поколения — самый ожидаемый стандарт за последние 30 лет

Forbes
Закрытое небо: зачем Госдума лишает авиационную отрасль сотен миллионов евро Закрытое небо: зачем Госдума лишает авиационную отрасль сотен миллионов евро

Один из пунктов контрсанкций, которые хочет ввести Госдума

Forbes
Нефть и песок. Зачем наследному принцу Саудовской Аравии американские деньги Нефть и песок. Зачем наследному принцу Саудовской Аравии американские деньги

Саудовской Аравии пришлось потратить $200 млрд, чтобы свести концы с концами

Forbes
Открыть в приложении