Олег Бяхов — об этичных трендах и общении с искусственным интеллектом

РБКHi-Tech

Даже лучший алгоритм может навредить человеку

Олег Бяхов — об этичных трендах и общении с искусственным интеллектом.

Фото: Владислав Шатило для РБК

Один из краеугольных камней любого использования искусственного интеллекта (ИИ) — установка на то, что ИИ лишь дополняет человеческий. Любое важное решение, которое имеет этические аспекты, всегда должно приниматься человеком. В частности, IBM использует коллегиальные механизмы принятия решений и контроля для встраивания в бизнес-приложениях ИИ человеческой ответственности за окончательное решение. Таким образом, этика принятия решений остается за человеком.

На сегодняшний день самый обсуждаемый вопрос в контексте этики алгоритмов — это биометрические данные. В июле 2020 года IBM сняли с рынка всю линейку продуктов для распознавания лиц. Дело в том, что в 2018 году выяснилось, что большинство коммерческих продуктов в области распознавания лиц, которые поставлялись крупнейшими компаниями, включая IBM, имели уровень ошибки распознавания для белых мужчин гораздо ниже, чем уровень ошибки для темнокожих женщин. Достоверность распознавания белых мужчин — выше 97%, а темнокожих женщин — от 65 до 80%.

Если такого рода алгоритмы встраиваются в правоохранительную систему, то темнокожих женщин могут недостоверно подозревать в каком-либо преступлении. Чтобы исправить эту ситуацию, IBM выложила общедоступный набор данных, основанный на публично лицензированных фотоизображениях миллиона лиц. В то же время стандартные учебные датасеты включают около 2 тыс. изображений лиц, и более 70% из них — белые мужчины. И когда ты обучаешь машину на некорректном наборе данных, то как бы хорош ни был твой алгоритм, он все равно будет приходить к некорректным выводам.

IBM на рынке обработки данных находится многие десятилетия. Мы всегда относились к накопленной информации как к данным, которые принадлежат их владельцу, например пользователю. Поэтому для обучения алгоритмов мы всегда получаем согласие владельца данных на их использование.

Что касается этики использования, то несколько ИИ-сервисов для СМИ и маркетологов, например IBM Personality Insights, IBM Watson Advertising, IBM Watson Media, предназначены для вовлечения целевой аудитории онлайн за счет персонализации контентного или продуктового коридора. Тренд персонализации через десять лет приведет к тому, что у каждого человека появится возможность получать максимально кастомизированный, специально изготовленный под него продукт.

Олег Бяхов — директор по государственным программам и развитию бизнеса IBM в России и СНГ. Окончил философский факультет Ростовского госуниверситета по специальности «логика», в компании IBM работает с 2007 года.

По теме, затронутой Олегом Бяховым, высказались еще два эксперта тренда: Дмитрий Марков (статья «Рейтинг доверия») и Константин Синюшин (статья «Сохранить лицо»).

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

На ошибках учатся На ошибках учатся

Леонид Жуков — об ответственности людей и машин за принятие критических решений

РБК
Все дороги ведут в стрим Все дороги ведут в стрим

Разбираемся, что лучше смотреть на стриминговых сервисах, доступных в России

Playboy
Максим Федоров: искусственный интеллект в десяти вопросах и ответах Максим Федоров: искусственный интеллект в десяти вопросах и ответах

Профессор Сколтеха — об искусственном интеллекте и реальности сюжетов фантастики

РБК
Скажи мне, кто твой друг… Скажи мне, кто твой друг…

Иногда подруги могут разрушить нашу жизнь

Лиза
Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News

Мы считаем, что интернет создан ради нас, но на деле его пользователи — боты

РБК
Суперабсорбирующий гель сделал почву самополивающейся Суперабсорбирующий гель сделал почву самополивающейся

Эту разработку можно будет использовать для земледелия в засушливых регионах

N+1
Давид Ян: «В мире появится движение Robot lives matter» Давид Ян: «В мире появится движение Robot lives matter»

Давид Ян уверен, что нейросети нужен эмоциональный интеллект

РБК
Только спокойствие! Только спокойствие!

Что такое синдром навязчивых состояний, как он проявляется и как его вылечить?

Лиза
Рейтинг доверия Рейтинг доверия

Дмитрий Марков — о рисках и преимуществах биометрических систем

РБК
Скромный памятник Колумбу Скромный памятник Колумбу

Анна Толстова о судьбе Ильи Остроухова, оставшегося в тени

Weekend
Жан Бодрийяр Жан Бодрийяр

Правила жизни Жана Бодрийяра

Esquire
Какие американские президенты были в хороших отношениях с Россией и чем это закончилось Какие американские президенты были в хороших отношениях с Россией и чем это закончилось

Мир и дружба до появления жвачки

Maxim
Три раза в день после еды Три раза в день после еды

Надо ли любить свои недостатки, особенно если это удается с трудом

Psychologies
Вам и не снилось Вам и не снилось

В канун Нового года и Рождества хочется верить в чудеса — и они происходят

Cosmopolitan
Голос и здоровье: как они связаны? Голос и здоровье: как они связаны?

По голосу можно диагностировать, что происходит в теле

Psychologies
«Не один дома: Естественная история нашего жилища от бактерий до многоножек, тараканов и пауков» «Не один дома: Естественная история нашего жилища от бактерий до многоножек, тараканов и пауков»

Отрывок из книги об организмах, живущих по соседству с нами в наших домах

N+1
«Яндекс» раскрыл 38 принципов, которых придерживается в работе «Яндекс» раскрыл 38 принципов, которых придерживается в работе

«Яндекс» сформулировал 38 принципов, которым следуют их сотрудники в работе

Inc.
7 фактов о Стивене Хокинге, которых вы не знали 7 фактов о Стивене Хокинге, которых вы не знали

Стивен Хокинг писал детские книги и был дерзким водителем инвалидной коляски

Популярная механика
Как живётся в Арктике белым медведям и людям Как живётся в Арктике белым медведям и людям

Каково это — работать на Крайнем Севере, и как ведется изучение белых медведей?

Наука и жизнь
«Моя идеальная девушка»: чего хотят мужчины «Моя идеальная девушка»: чего хотят мужчины

Как молодые холостяки представляют себе женщину, в которую можно влюбиться

Cosmopolitan
Модель ESCIMO указала на пройденную точку невозврата в потеплении климата Модель ESCIMO указала на пройденную точку невозврата в потеплении климата

Полное прекращение выбросов парниковых газов не остановит потепление

N+1
Именной фонд Именной фонд

Как Таруса запустила по России вторую волну переименований улиц и площадей

Огонёк
«Дело жизни – печь!» «Дело жизни – печь!»

Что влияет на калорийность десерта и в чем секрет маложирного крема

Худеем правильно
Гомеопатия: эффект сверхмалого фуфла Гомеопатия: эффект сверхмалого фуфла

Гомеопатия — такая же система лечения, как шаманство или молитва

Maxim
Любовь или легкая влюбленность? 16 важных отличий Любовь или легкая влюбленность? 16 важных отличий

Чем отличается легкое увлечение от настоящей любви?

Psychologies
Возвращение парусного флота Возвращение парусного флота

Почему парусники возвращаются?

Популярная механика
Монстры в небе: 8 самых больших самолетов в мире Монстры в небе: 8 самых больших самолетов в мире

Двухэтажные тяжеловесы с размахом крыльев длиннее футбольного поля

Популярная механика
«Бурда Моден – это я» «Бурда Моден – это я»

Как Энне Бурда смогла стать издателем крупнейшего в мире журнала мод

Лиза
Блеф, ложь и венчур: как инвесторы и стартаперы обманывают друг друга Блеф, ложь и венчур: как инвесторы и стартаперы обманывают друг друга

В венчурном бизнесе недостаточно просто говорить правду

Inc.
5 способов борьбы с тревогой: советы тренера по боевым искусствам 5 способов борьбы с тревогой: советы тренера по боевым искусствам

Борьба со стрессом: попробуйте вернуться в тело, почувствуйте ритм, движение

Psychologies
Открыть в приложении