Олег Бяхов — об этичных трендах и общении с искусственным интеллектом

РБКHi-Tech

Даже лучший алгоритм может навредить человеку

Олег Бяхов — об этичных трендах и общении с искусственным интеллектом.

Фото: Владислав Шатило для РБК

Один из краеугольных камней любого использования искусственного интеллекта (ИИ) — установка на то, что ИИ лишь дополняет человеческий. Любое важное решение, которое имеет этические аспекты, всегда должно приниматься человеком. В частности, IBM использует коллегиальные механизмы принятия решений и контроля для встраивания в бизнес-приложениях ИИ человеческой ответственности за окончательное решение. Таким образом, этика принятия решений остается за человеком.

На сегодняшний день самый обсуждаемый вопрос в контексте этики алгоритмов — это биометрические данные. В июле 2020 года IBM сняли с рынка всю линейку продуктов для распознавания лиц. Дело в том, что в 2018 году выяснилось, что большинство коммерческих продуктов в области распознавания лиц, которые поставлялись крупнейшими компаниями, включая IBM, имели уровень ошибки распознавания для белых мужчин гораздо ниже, чем уровень ошибки для темнокожих женщин. Достоверность распознавания белых мужчин — выше 97%, а темнокожих женщин — от 65 до 80%.

Если такого рода алгоритмы встраиваются в правоохранительную систему, то темнокожих женщин могут недостоверно подозревать в каком-либо преступлении. Чтобы исправить эту ситуацию, IBM выложила общедоступный набор данных, основанный на публично лицензированных фотоизображениях миллиона лиц. В то же время стандартные учебные датасеты включают около 2 тыс. изображений лиц, и более 70% из них — белые мужчины. И когда ты обучаешь машину на некорректном наборе данных, то как бы хорош ни был твой алгоритм, он все равно будет приходить к некорректным выводам.

IBM на рынке обработки данных находится многие десятилетия. Мы всегда относились к накопленной информации как к данным, которые принадлежат их владельцу, например пользователю. Поэтому для обучения алгоритмов мы всегда получаем согласие владельца данных на их использование.

Что касается этики использования, то несколько ИИ-сервисов для СМИ и маркетологов, например IBM Personality Insights, IBM Watson Advertising, IBM Watson Media, предназначены для вовлечения целевой аудитории онлайн за счет персонализации контентного или продуктового коридора. Тренд персонализации через десять лет приведет к тому, что у каждого человека появится возможность получать максимально кастомизированный, специально изготовленный под него продукт.

Олег Бяхов — директор по государственным программам и развитию бизнеса IBM в России и СНГ. Окончил философский факультет Ростовского госуниверситета по специальности «логика», в компании IBM работает с 2007 года.

По теме, затронутой Олегом Бяховым, высказались еще два эксперта тренда: Дмитрий Марков (статья «Рейтинг доверия») и Константин Синюшин (статья «Сохранить лицо»).

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Давид Ян: «В мире появится движение Robot lives matter» Давид Ян: «В мире появится движение Robot lives matter»

Давид Ян уверен, что нейросети нужен эмоциональный интеллект

РБК
Как накопить миллион Как накопить миллион

Планируешь крупную покупку? Учись откладывать деньги

Лиза
На ошибках учатся На ошибках учатся

Леонид Жуков — об ответственности людей и машин за принятие критических решений

РБК
«Черкизово». Наследники. Алтай «Черкизово». Наследники. Алтай

Почему Игорь Бабаев отдал весь свой бизнес сыновьям

Forbes
Двойная игра Двойная игра

Иван Бегтин — о больших данных и мире без секретов

РБК
Маршал Воробьёв, инженер Победы Маршал Воробьёв, инженер Победы

Маршал Михаил Петрович Воробьёв сделал очень многое для обороны Москвы

Дилетант
Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News

Мы считаем, что интернет создан ради нас, но на деле его пользователи — боты

РБК
Роман Супер: «Эдуард Успенский – по сути панк» Роман Супер: «Эдуард Успенский – по сути панк»

Разговор с автором документального фильма об Эдуарде Успенском

GQ
Рейтинг доверия Рейтинг доверия

Дмитрий Марков — о рисках и преимуществах биометрических систем

РБК
Иван Митин строит в Грузии королевство для идеалистов за их же деньги. Хватит ли ему единомышленников для успеха? Иван Митин строит в Грузии королевство для идеалистов за их же деньги. Хватит ли ему единомышленников для успеха?

Почему для успешного бизнеса одного сообщества идеалистов недостаточно

Inc.
Кромвель: диктатор-цареубийца Кромвель: диктатор-цареубийца

Путь от противника неограниченной королевской власти к режиму жёсткой деспотии

Дилетант
Забиваем гвоздь в труднодоступном месте и решаем другие задачи Забиваем гвоздь в труднодоступном месте и решаем другие задачи

Лайфхаки для решения бытовых и строительных задач

Популярная механика
Вечные ценности Вечные ценности

На какие деньги живут города-музеи

Forbes
7 фактов о Стивене Хокинге, которых вы не знали 7 фактов о Стивене Хокинге, которых вы не знали

Стивен Хокинг писал детские книги и был дерзким водителем инвалидной коляски

Популярная механика
7 отличий здоровых отношений от невротичных 7 отличий здоровых отношений от невротичных

Что может мешать двух взрослым людям построить гармоничный союз?

Psychologies
Викиномика Викиномика

Как массовое сотрудничество изменяет все

kiozk originals
Дарья Мороз: “За четыре года я стала другим человеком” Дарья Мороз: “За четыре года я стала другим человеком”

Дарья Мороз и стереотипы — две несовместимые вещи

Psychologies
Правила женственного образа: как не переборщить и выглядеть стильно Правила женственного образа: как не переборщить и выглядеть стильно

Анастасия Алексеенко рассматривает образы Джессики Симпсон и Розалин Санчес

Cosmopolitan
Как относились друг к другу Бунин и Горький? Как относились друг к другу Бунин и Горький?

В отношениях Ивана Бунина и Максима Горького можно выделить три этапа

Культура.РФ
Брачные контракты, полицейские с собаками, первые забастовки и еще 6 фактов о Древнем Египте, которых вы могли не знать Брачные контракты, полицейские с собаками, первые забастовки и еще 6 фактов о Древнем Египте, которых вы могли не знать

Что вы знаете о Египте?

Популярная механика
Диана Арбенина — о современной зарубежной литературе, нелюбви к запятым и о том, что общего между писательством и написанием музыки Диана Арбенина — о современной зарубежной литературе, нелюбви к запятым и о том, что общего между писательством и написанием музыки

Интервью с Дианой Арбениной

Esquire
Хурма – зимняя ягода Хурма – зимняя ягода

Рассказываем, в чем польза хурмы, как ее выбирать и какие блюда с ней готовить

Здоровье
Самцы пауков-филодромид перед спариванием обездвижили самок ядом и связали паутиной Самцы пауков-филодромид перед спариванием обездвижили самок ядом и связали паутиной

Такое поведение помогает им не стать обедом потенциальных невест

N+1
«Если ты играл с императором рояля, разве трудно сыграть с императрицей Японии?» «Если ты играл с императором рояля, разве трудно сыграть с императрицей Японии?»

Юрий Башмет – о первом концерте со Святославом Рихтером

GQ
Гаджеты = лишний вес Гаджеты = лишний вес

Учёные: активное использование гаджетов может стать причиной лишнего веса

Здоровье
Кислород и водород на Марсе предложили получать из рассола Кислород и водород на Марсе предложили получать из рассола

Кислород и водород на Марсе хотят получать из марсианских озер

N+1
Код диабета Код диабета

Как диабет 2-го типа стал самой «внезапной» болезнью века

kiozk originals
Вне времени: как Леонардо ДиКаприо транслирует с экрана идеальный классический мужской образ с налетом ретро Вне времени: как Леонардо ДиКаприо транслирует с экрана идеальный классический мужской образ с налетом ретро

Кинообразы Леонардо ДиКаприо — вечная классика мужского гардероба

Esquire
12 вещей, которые использовали вместо денег 12 вещей, которые использовали вместо денег

Во времена натурального обмена в роли денег выступали совершенно разные объекты

Maxim
Выпускница Гарварда родом из СССР: чем известна новый президент Молдавии Майя Санду Выпускница Гарварда родом из СССР: чем известна новый президент Молдавии Майя Санду

Что известно о карьере, политических взглядах и достижениях президентки Молдавии

Forbes
Открыть в приложении