Олег Бяхов — об этичных трендах и общении с искусственным интеллектом

РБКHi-Tech

Даже лучший алгоритм может навредить человеку

Олег Бяхов — об этичных трендах и общении с искусственным интеллектом.

Фото: Владислав Шатило для РБК

Один из краеугольных камней любого использования искусственного интеллекта (ИИ) — установка на то, что ИИ лишь дополняет человеческий. Любое важное решение, которое имеет этические аспекты, всегда должно приниматься человеком. В частности, IBM использует коллегиальные механизмы принятия решений и контроля для встраивания в бизнес-приложениях ИИ человеческой ответственности за окончательное решение. Таким образом, этика принятия решений остается за человеком.

На сегодняшний день самый обсуждаемый вопрос в контексте этики алгоритмов — это биометрические данные. В июле 2020 года IBM сняли с рынка всю линейку продуктов для распознавания лиц. Дело в том, что в 2018 году выяснилось, что большинство коммерческих продуктов в области распознавания лиц, которые поставлялись крупнейшими компаниями, включая IBM, имели уровень ошибки распознавания для белых мужчин гораздо ниже, чем уровень ошибки для темнокожих женщин. Достоверность распознавания белых мужчин — выше 97%, а темнокожих женщин — от 65 до 80%.

Если такого рода алгоритмы встраиваются в правоохранительную систему, то темнокожих женщин могут недостоверно подозревать в каком-либо преступлении. Чтобы исправить эту ситуацию, IBM выложила общедоступный набор данных, основанный на публично лицензированных фотоизображениях миллиона лиц. В то же время стандартные учебные датасеты включают около 2 тыс. изображений лиц, и более 70% из них — белые мужчины. И когда ты обучаешь машину на некорректном наборе данных, то как бы хорош ни был твой алгоритм, он все равно будет приходить к некорректным выводам.

IBM на рынке обработки данных находится многие десятилетия. Мы всегда относились к накопленной информации как к данным, которые принадлежат их владельцу, например пользователю. Поэтому для обучения алгоритмов мы всегда получаем согласие владельца данных на их использование.

Что касается этики использования, то несколько ИИ-сервисов для СМИ и маркетологов, например IBM Personality Insights, IBM Watson Advertising, IBM Watson Media, предназначены для вовлечения целевой аудитории онлайн за счет персонализации контентного или продуктового коридора. Тренд персонализации через десять лет приведет к тому, что у каждого человека появится возможность получать максимально кастомизированный, специально изготовленный под него продукт.

Олег Бяхов — директор по государственным программам и развитию бизнеса IBM в России и СНГ. Окончил философский факультет Ростовского госуниверситета по специальности «логика», в компании IBM работает с 2007 года.

По теме, затронутой Олегом Бяховым, высказались еще два эксперта тренда: Дмитрий Марков (статья «Рейтинг доверия») и Константин Синюшин (статья «Сохранить лицо»).

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Нейросеть GPT-3: «Роботы никогда не заменят потребность в людях» Нейросеть GPT-3: «Роботы никогда не заменят потребность в людях»

Собеседник РБК — третье поколение алгоритма по обработке естественного языка

РБК
Неординарный Неординарный

Итальянский шеф Антонио Фреза вышел из матрицы как Нео

Собака.ru
Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News

Мы считаем, что интернет создан ради нас, но на деле его пользователи — боты

РБК
Первый каскадерский трюк, первый спецэффект, первая комедия и другие важнейшие вехи кино Первый каскадерский трюк, первый спецэффект, первая комедия и другие важнейшие вехи кино

Как снимали блокбастеры на заре кинематографа

Maxim
Максим Федоров: искусственный интеллект в десяти вопросах и ответах Максим Федоров: искусственный интеллект в десяти вопросах и ответах

Профессор Сколтеха — об искусственном интеллекте и реальности сюжетов фантастики

РБК
Коронованная принцесса. Как создавались наряды Дианы для сериала «Корона» Коронованная принцесса. Как создавались наряды Дианы для сериала «Корона»

Анна Баштовая — о том, как создавался образ принцессы Дианы в 4 сезоне «Короны»

Esquire
Рейтинг доверия Рейтинг доверия

Дмитрий Марков — о рисках и преимуществах биометрических систем

РБК
Гендиректор «СберЛогистики» Сергей Малышев об особенностях логистики в России Гендиректор «СберЛогистики» Сергей Малышев об особенностях логистики в России

С какими сложностями сталкиваются операционные сервисы в России

СНОБ
Давид Ян: «В мире появится движение Robot lives matter» Давид Ян: «В мире появится движение Robot lives matter»

Давид Ян уверен, что нейросети нужен эмоциональный интеллект

РБК
Тайны брянского Лас-Вегаса Тайны брянского Лас-Вегаса

Кто стоит за самым загадочным букмекером на российском рынке

Forbes
Его время Его время

Николас Холт: о стремительном настоящем времени и непредсказуемом прошлом

GQ
«Копирование — это не кража, а трансформация»: Уиллем Дефо — о своем провальном старте и новом фильме «Сибирь» «Копирование — это не кража, а трансформация»: Уиллем Дефо — о своем провальном старте и новом фильме «Сибирь»

Уиллем Дефо о том, почему увольнение может быть радостным событием

Forbes
Эра человечности Эра человечности

Пандемия и удаленка меняют отношения между сотрудниками

Forbes
7 привычек, которые делают тебя непривлекательным в глазах женщин 7 привычек, которые делают тебя непривлекательным в глазах женщин

Привычки, которых нужно избегать, чтобы быть привлекательным для женщин

Maxim
Ты скромная или у тебя заниженная самооценка? Как разобраться в себе Ты скромная или у тебя заниженная самооценка? Как разобраться в себе

Скромность — добродетель, заниженная самооценка — проблема, но как их различить?

Cosmopolitan
А теперь — Горбатый!.. За что мы любим Армена Джигарханяна А теперь — Горбатый!.. За что мы любим Армена Джигарханяна

Армен Джигарханян ушел — и нам грустно. Хотя…

Maxim
«Игры гормонов» «Игры гормонов»

Отрывок из книги Марти Хейзелтон «Игры гормонов»

N+1
«Титаник» XII века: кораблекрушение, изменившее историю «Титаник» XII века: кораблекрушение, изменившее историю

900 лет назад произошло кораблекрушение «Белого корабля».

Maxim
Когда в России прошла первая собачья выставка? Когда в России прошла первая собачья выставка?

Как и когда прошла первая отечественная выставка собак

Культура.РФ
Последний фильм Михаила Ефремова Последний фильм Михаила Ефремова

Фильм «Картонная пристань» — пророческий для всей российской грядущей реальности

СНОБ
Как два программиста из России зарабатывают миллионы долларов на виртуальной обстановке квартир Как два программиста из России зарабатывают миллионы долларов на виртуальной обстановке квартир

Созданный ими под себя сервис Planner 5D привлек $1,5 млн инвестиций

Forbes
Убивающий тасманийских дьяволов рак оказался эволюционно консервативным Убивающий тасманийских дьяволов рак оказался эволюционно консервативным

Инфекционный рак поставил тасманийских дьяволов на грань вымирания

N+1
Вам и не снилось Вам и не снилось

В канун Нового года и Рождества хочется верить в чудеса — и они происходят

Cosmopolitan

Комедия "Кавказская пленница прославила своих героев

Cosmopolitan
Праздник к нам приходит Праздник к нам приходит

Светлана Лобода откровенно рассказала о том, как ей удается быть праздником

Cosmopolitan
5 исторических личностей, истории которых бессовестно переврали в фильмах 5 исторических личностей, истории которых бессовестно переврали в фильмах

Тяжело быть знаменитым. В любой момент о тебе могут снять дурацкий фильм

Maxim
Как сложились судьбы главных манекенщиц СССР: нищета, суицид и одиночество Как сложились судьбы главных манекенщиц СССР: нищета, суицид и одиночество

Как сложилась судьба первых моделей СССР — от Збарской до Мироновой

Cosmopolitan
Специальная номинация «Настоящий герой сериалов 2020 года» от more.tv: Константин Богомолов Специальная номинация «Настоящий герой сериалов 2020 года» от more.tv: Константин Богомолов

Константин Богомолов в кадре, за кадром, на сцене и в реальной жизни

GQ
Пангея завтрашнего дня: могут ли континенты снова объединиться Пангея завтрашнего дня: могут ли континенты снова объединиться

Пангея – не единственный суперконтинент в истории Земли

Популярная механика
Почему Армения и Россия проиграли войну за Карабах Почему Армения и Россия проиграли войну за Карабах

Ереван и Москва являются главными проигравшими в нынешней карабахской войне

СНОБ
Открыть в приложении