Олег Бяхов — об этичных трендах и общении с искусственным интеллектом

РБКHi-Tech

Даже лучший алгоритм может навредить человеку

Олег Бяхов — об этичных трендах и общении с искусственным интеллектом.

Фото: Владислав Шатило для РБК

Один из краеугольных камней любого использования искусственного интеллекта (ИИ) — установка на то, что ИИ лишь дополняет человеческий. Любое важное решение, которое имеет этические аспекты, всегда должно приниматься человеком. В частности, IBM использует коллегиальные механизмы принятия решений и контроля для встраивания в бизнес-приложениях ИИ человеческой ответственности за окончательное решение. Таким образом, этика принятия решений остается за человеком.

На сегодняшний день самый обсуждаемый вопрос в контексте этики алгоритмов — это биометрические данные. В июле 2020 года IBM сняли с рынка всю линейку продуктов для распознавания лиц. Дело в том, что в 2018 году выяснилось, что большинство коммерческих продуктов в области распознавания лиц, которые поставлялись крупнейшими компаниями, включая IBM, имели уровень ошибки распознавания для белых мужчин гораздо ниже, чем уровень ошибки для темнокожих женщин. Достоверность распознавания белых мужчин — выше 97%, а темнокожих женщин — от 65 до 80%.

Если такого рода алгоритмы встраиваются в правоохранительную систему, то темнокожих женщин могут недостоверно подозревать в каком-либо преступлении. Чтобы исправить эту ситуацию, IBM выложила общедоступный набор данных, основанный на публично лицензированных фотоизображениях миллиона лиц. В то же время стандартные учебные датасеты включают около 2 тыс. изображений лиц, и более 70% из них — белые мужчины. И когда ты обучаешь машину на некорректном наборе данных, то как бы хорош ни был твой алгоритм, он все равно будет приходить к некорректным выводам.

IBM на рынке обработки данных находится многие десятилетия. Мы всегда относились к накопленной информации как к данным, которые принадлежат их владельцу, например пользователю. Поэтому для обучения алгоритмов мы всегда получаем согласие владельца данных на их использование.

Что касается этики использования, то несколько ИИ-сервисов для СМИ и маркетологов, например IBM Personality Insights, IBM Watson Advertising, IBM Watson Media, предназначены для вовлечения целевой аудитории онлайн за счет персонализации контентного или продуктового коридора. Тренд персонализации через десять лет приведет к тому, что у каждого человека появится возможность получать максимально кастомизированный, специально изготовленный под него продукт.

Олег Бяхов — директор по государственным программам и развитию бизнеса IBM в России и СНГ. Окончил философский факультет Ростовского госуниверситета по специальности «логика», в компании IBM работает с 2007 года.

По теме, затронутой Олегом Бяховым, высказались еще два эксперта тренда: Дмитрий Марков (статья «Рейтинг доверия») и Константин Синюшин (статья «Сохранить лицо»).

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Максим Федоров: искусственный интеллект в десяти вопросах и ответах Максим Федоров: искусственный интеллект в десяти вопросах и ответах

Профессор Сколтеха — об искусственном интеллекте и реальности сюжетов фантастики

РБК
Дождь не помеха: 6 веселых игр для детей осенью Дождь не помеха: 6 веселых игр для детей осенью

Осадки — не повод прекращать веселиться, и наши дети знают это лучше всех

Seasons of life
Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News

Мы считаем, что интернет создан ради нас, но на деле его пользователи — боты

РБК
Героини времени нашего Героини времени нашего

Истории выдающихся женщин, которые смело меняют и свою жизнь, и мир вокруг себя

Лиза
Бизнес в особом режиме Бизнес в особом режиме

Московская область — один из благоприятных регионов для развития формата ОЭЗ

РБК
Олег Ставицкий: «ВОЗ объявила эпидемию недосыпа – это огромная проблема» Олег Ставицкий: «ВОЗ объявила эпидемию недосыпа – это огромная проблема»

Создатель Endel о коллаборации с Граймс

GQ
Давид Ян: «В мире появится движение Robot lives matter» Давид Ян: «В мире появится движение Robot lives matter»

Давид Ян уверен, что нейросети нужен эмоциональный интеллект

РБК
Затенение Земли аэрозолями не спасет от потери слоисто-кучевых облаков Затенение Земли аэрозолями не спасет от потери слоисто-кучевых облаков

Затенение Земли с помощью аэрозолей не сможет бороться с глобальным потеплением

N+1
Рейтинг доверия Рейтинг доверия

Дмитрий Марков — о рисках и преимуществах биометрических систем

РБК
Кто я?! Кто я?!

Никита Ефремов рассказал о бережном отношении к себе и своему делу

OK!
2006 год 2006 год

Газовая война с Украиной, смерть Анны Политковской и беспорядки в Кондопоге

Esquire
Алиса Хазанова: «Сегодня опасно даже просто выражать свое мнение» Алиса Хазанова: «Сегодня опасно даже просто выражать свое мнение»

Актриса Алиса Хазанова о кибербуллинге и токсичности соцсетей

GQ
На языке MAYA На языке MAYA

Как инновационный принцип готовит потребителя к понятному ему будущему

РБК
«Ход королевы»: шахматы, зависимость и никакой политики в новом сериале Netflix «Ход королевы»: шахматы, зависимость и никакой политики в новом сериале Netflix

Интеллектуальная драма от режиссера «Логана» с Аней Тейлор-Джой в главной роли

GQ
5 лучших научно-фантастических романов о переносе сознания 5 лучших научно-фантастических романов о переносе сознания

Писатели-фантасты, которые экспериментировали с самой идеей сознания

Популярная механика
Север, юг, запад, восток: как определить свой психотип и что носить Север, юг, запад, восток: как определить свой психотип и что носить

Определяем свой типаж и на его основании учимся выбирать одежду

Cosmopolitan
Чем вредны заменители сахара и есть ли полезные альтернативы Чем вредны заменители сахара и есть ли полезные альтернативы

Заменители сахара могут негативно влиять на сердце и сосуды

РБК
Почему у Hyundai Creta есть будущее, а у Bentley Bentaiga нет? Почему у Hyundai Creta есть будущее, а у Bentley Bentaiga нет?

Неужели Hyundai Creta лучше Bentley Bentaiga?

4x4 Club
Почему больше не производят смартфоны со съемными батареями Почему больше не производят смартфоны со съемными батареями

Почему съемные аккумуляторы остались в прошлом?

Популярная механика
5 глупых вещей, которые навсегда изменили наш мир 5 глупых вещей, которые навсегда изменили наш мир

Иногда какая-нибудь табуретка может сделать для истории больше, чем президент

Maxim
7 неожиданных фактов о Леонарде Коэне 7 неожиданных фактов о Леонарде Коэне

Леонард Коэн — наверное, единственный канадский поэт, чьи стихи ты можешь напеть

Maxim
Ледоруб Вилли и другие самые необычные прозвища знаменитых гангстеров Ледоруб Вилли и другие самые необычные прозвища знаменитых гангстеров

Мафия может похвастаться отменным чувством юмора!

Maxim
Ядовитые косматые хомяки оказались моногамными Ядовитые косматые хомяки оказались моногамными

Зоологам впервые удалось понаблюдать за социальной жизнью этих грызунов

N+1
Гомеопатия: эффект сверхмалого фуфла Гомеопатия: эффект сверхмалого фуфла

Гомеопатия — такая же система лечения, как шаманство или молитва

Maxim
Мир викингов и скандинавская мифология: обзор на игру Assassin's Creed: Valhalla Мир викингов и скандинавская мифология: обзор на игру Assassin's Creed: Valhalla

Почему Assassin's Creed: Valhalla это лучшая игра серии за последние годы

Esquire
Верхом на вихре Верхом на вихре

Возможное будущее гражданской авиации

Популярная механика
«YouTube игрового мира»: как устроена игровая платформа для создания виртуальных миров Roblox с оценкой $4 млрд «YouTube игрового мира»: как устроена игровая платформа для создания виртуальных миров Roblox с оценкой $4 млрд

Игра-«песочница» вышла на Нью-Йоркскую биржу

VC.RU
Что читать на выходных: отрывок из нового исторического романа Леонида Юхефовича «Филлэлин» Что читать на выходных: отрывок из нового исторического романа Леонида Юхефовича «Филлэлин»

Отрывок из романа Юзефовича о войне за независимость Греции от Османской империи

Esquire
Энергетическая независимость: зачем России производить свои газовые турбины Энергетическая независимость: зачем России производить свои газовые турбины

Впервые в истории страны появится полностью своя газовая турбина

Inc.
Медитации для любви: Ясс Джалю — о практике счастья в паре Медитации для любви: Ясс Джалю — о практике счастья в паре

Ясс Джалю рассказывает о том, как разобраться в отношениях с собой и с партнером

РБК
Открыть в приложении