Для нейросети нет разницы, какого пола и расы человека необходимо распознавать

ForbesHi-Tech

Вежливая сеть: как научить искусственный интеллект относиться к людям непредвзято

Для нейросети нет разницы, какого пола и расы человека необходимо распознавать. Проблема заключается не в характеристиках программы, а в качестве обучения

Александр Ханин

Фото Alain Pitton / NurPhoto via Getty Images

Мир начинает переживать из-за предвзятости искусственного интеллекта в системах распознавания лиц. Люди беспокоятся, что такие системы изначально «хорошо относятся» только к европейцам.

 

Год назад разработчик системы распознавания лиц Gfycat удивился, когда его система не распознала некоторых азиатских сотрудников. Исследование аналогичных систем Microsoft и IBT показало, что они были на 95% точнее при распознавании женщин со светлой кожей. Компании рассказали, что улучшили собственные алгоритмы, но не уточнили, каким образом.

По каким признакам нейросеть определяет расовую принадлежность человека

Никто не сможет точно рассказать, как именно нейросеть учится распознавать лица, на что она обращает внимание. Многим факторам, на основании которых нейросеть распознает лица, она научилась сама. Она сравнивает миллионы фотографий, находит общие признаки и учитывает их внутри своей системы. При обучении нейросеть в явном в виде не выдает различие между разными типами лиц по расовому признаку, но в своих найденных признаках свойство расы может быть отражено, так как оно помогает нейросети ориентироваться по разным типам лиц. Эти признаки могут никак не интерпретироваться человеком, потому что это набор нулей и единиц.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Вода, еда, ночлег: что могут требовать туристы, попавшие в авиационный коллапс Вода, еда, ночлег: что могут требовать туристы, попавшие в авиационный коллапс

Как вести себя туристам во время авиационных коллапсов

Forbes
Астрономические налоги: может ли космос стать свободной экономической зоной Астрономические налоги: может ли космос стать свободной экономической зоной

Ведущие мировые экономики стараются запустить бизнес в космосе

Forbes
Книга на выходные: как ChatGPT стал самым эффективным копирайтером «Зерокодера» Книга на выходные: как ChatGPT стал самым эффективным копирайтером «Зерокодера»

Отрывок из книги «Искусственный интеллект: путь к новому миру»

Inc.
Разные интересы: проблема или возможность? Разные интересы: проблема или возможность?

Как сохранить союз, если общих тем мало

Psychologies
Астероидные кольца, сила гравитации и сжатие звездного облака: откуда взялась Луна Астероидные кольца, сила гравитации и сжатие звездного облака: откуда взялась Луна

Почему ни одна из гипотез не может объяснить, как на самом деле «родилась» Луна

Maxim
Революция удалась: что означает смена власти в Армении Революция удалась: что означает смена власти в Армении

Жители не позволили Саргсяну сохранить контроль над республикой

Forbes
Чем заняться в Москве в честь Дня благотворителя Чем заняться в Москве в честь Дня благотворителя

13 апреля в России отмечается День мецената и благотворителя

Cosmopolitan
«Чубайса в шахту, чтобы черным вылез!» К юбилею Виктора Черномырдина «Чубайса в шахту, чтобы черным вылез!» К юбилею Виктора Черномырдина

Александр Гамов — о своем многолетнем собеседнике и главном герое

СНОБ
Дмитрий Волков: Почему мы должны бояться искусственного интеллекта? Дмитрий Волков: Почему мы должны бояться искусственного интеллекта?

О том, почему нам нужно бояться искусственного интеллекта

СНОБ
Лори и все ее личности: кто такая Лори Эрика Рафф? Лори и все ее личности: кто такая Лори Эрика Рафф?

Зачем девушке потребовалась другая личность?

Cosmopolitan
Танцующая с булавами: как одевается гимнастка Маргарита Мамун Танцующая с булавами: как одевается гимнастка Маргарита Мамун

Как одевается спортсменка Маргарита Мамун в обычной жизни

Cosmopolitan
Голливудский финал Голливудский финал

Ради чего главный человек в кинематографе бросил миллиардное состояние

СНОБ
Библия глазами женщины. Фильм недели: «Мария Магдалина» Библия глазами женщины. Фильм недели: «Мария Магдалина»

Гарт Дэвис попытался заново осмыслить Евангелие

Forbes
Маркус Хинтерхойзер: музыка страсти Маркус Хинтерхойзер: музыка страсти

Одна из характерных примет нашего времени – оперный бум

СНОБ
Агния Дитковските: На чужом примере проще учиться Агния Дитковските: На чужом примере проще учиться

В ожидании реалити «Союзники» на СТС мы поговорили с его ведущей

Лиза
Шарлто Копли: наемник из «Опасного бизнеса» — о насилии, религии и движении за права женщин Шарлто Копли: наемник из «Опасного бизнеса» — о насилии, религии и движении за права женщин

Актер Шарлто Копли о насилии, духовном пути и движении за права женщин

Maxim
Больше никаких чипсов: в аэропортах Парижа откроют мишленовские рестораны Больше никаких чипсов: в аэропортах Парижа откроют мишленовские рестораны

Парижские Аэропорты создали концепцию 21 округа Парижа

Cosmopolitan
Мудрая пудра Мудрая пудра

Дом, в котором много натуральных материалов, мягких тканей и пастельных оттенков

AD
Бронеэкзотика начала ХХ века Бронеэкзотика начала ХХ века

Конструкторы разрабатывали самые экзотические проекты бронемонстров

Популярная механика
Из пучины: жуткие истории, рассказанные рыбаками и моряками Из пучины: жуткие истории, рассказанные рыбаками и моряками

Что приходилось видеть рыбакам и морякам, оставшись один на один со стихией?

Cosmopolitan
Унесенные кириллицей Унесенные кириллицей

Как некоторые заграничные писатели в русском переводе становились популярнее

Maxim
Где проходят границы измены Где проходят границы измены

Несколько историй об изменах и комментарии психологов

Psychologies
Чем женский мозг отличается от мужского? Чем женский мозг отличается от мужского?

Психолог Адриана Имж предлагает решить гендерный вопрос с научной точки зрения

СНОБ
Анна Старобинец — о книгах, которые переворачивают душу и разум Анна Старобинец — о книгах, которые переворачивают душу и разум

Почему в российских реалиях практически невозможно написать хороший детектив

Esquire
Тайна организации Тайна организации

Сама идея управления временем за последнее время слегка изменилась

Добрые советы
Олимпиада для умных Каким быть научным и инженерным соревнованиям школьников в цифровой век Олимпиада для умных Каким быть научным и инженерным соревнованиям школьников в цифровой век

Каким быть научным и инженерным соревнованиям школьников в цифровой век

Русский репортер
Вечный Октоберфест: как получить гражданство Германии за инвестиции Вечный Октоберфест: как получить гражданство Германии за инвестиции

О чем важно помнить, если вы решились на переезд в Германию

Forbes
Каравайчук online: в четверг и больше никогда Каравайчук online: в четверг и больше никогда

На snob.ru состоялась премьера – онлайн-трансляция спектакля «Каравайчук»

СНОБ
Екатерина Климова. Обыкновенное чудо Екатерина Климова. Обыкновенное чудо

Интервью с Екатериной Климовой

Караван историй
Лера Кудрявцева: «Мы, девочки, должны видеть наших защитников на льду, в сражени Лера Кудрявцева: «Мы, девочки, должны видеть наших защитников на льду, в сражени

Интервью с Лерой Кудрявцевой

Cosmopolitan
Открыть в приложении