Случаи, в которых роботы пытаются заменить человека, но у них пока не получается

ForbesHi-Tech

Не только «Сбербанк»: пять самых эпичных ошибок искусственного интеллекта

Наглядные случаи, в которых роботы пытаются заменить человека, но у них пока не получается

Артем Гладких 

rtx6m61x.jpg__1551795657__23673.jpg
Фото Matthew Stock / REUTERS

Ошибки искусственного интеллекта на миллиарды рублей убытка стали самой громкой технологической новостью недели в России. Точная версия слов президента Сбербанка Германа Грефа остается предметом обсуждения, но стала поводом для того, чтобы вспомнить самые громкие случаи провалов ИИ.

Расизм и дискриминация

Корпорация Amazon, наряду с другими технологическими гигантами США, является одним из центров разработок в области искусственного интеллекта. В 2017 году компания закрыла экспериментальный проект по найму сотрудников на основе ИИ, который вела около трех лет. По словам представителей компании, в результате они ожидали получить некий «Святой Грааль», который мог бы отобрать пятерку лучших кандидатов из сотни резюме. Одной из ключевых проблем стала гендерная дискриминация кандидатов — алгоритм занижал оценки кандидатов-женщин, поскольку был обучен на прошлом десятилетнем опыте отбора кандидатов в Amazon, среди которых преобладали мужчины. Были и другие сложности: алгоритм нередко выдавал практически случайные результаты.

Применение алгоритмов в рекламных инструментах Facebook (соцсеть признана в РФ экстремистской и запрещена) привело к появлению предложений по группировке целевых аудиторий на основе такого признака, как антисемитизм. В 2016 году президенту Microsoft Research Питеру Ли пришлось извиняться за чат-бота Тау, который менее чем за сутки общения с пользователями Twitter научился расистским высказываниям. Проект был приостановлен.

Опасность на дороге

Распространение беспилотных автомобилей выглядит неизбежным будущим, однако еще не решены важные вопросы — например, этический выбор в опасных ситуациях. При этом сами тестовые испытания проходят с трагическими последствиями. Весной 2018 года Uber тестировала беспилотный автомобиль на базе одной из моделей Volvo на улицах города Темп в штате Аризона, США. Машина сбила женщину насмерть. Тестирование автопилота проводилось при сниженной чувствительности к распознанным опасным объектам, чтобы избежать ложных срабатываний. Когда порог чувствительности снижался, система видела опасные объекты там, где их не было.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Стойкие безымянные солдатики Стойкие безымянные солдатики

Roim Rachok, в переводе с иврита — «Взгляд в будущее»

Esquire
С подрезанными крыльями: с кем конкурирует российский МС-21 С подрезанными крыльями: с кем конкурирует российский МС-21

С кем придется столкнуться российскому лайнеру на мировых рынках?

Популярная механика
Есть, чего ждать: самые ожидаемые смартфоны 2019 года Есть, чего ждать: самые ожидаемые смартфоны 2019 года

Какие телефоны мы с особым нетерпением ждем в 2019 году

CHIP
Компакт-диск: почему он будет жить еще долго Компакт-диск: почему он будет жить еще долго

Краткая история компакт-дисков

Популярная механика
Как общаться с коллегами, которые слишком много говорят Как общаться с коллегами, которые слишком много говорят

Почему некоторые люди так много говорят

Psychologies
Как создать прикольный мем онлайн прямо сейчас Как создать прикольный мем онлайн прямо сейчас

Создайте себе собственную коллекцию мемов - это делается элементарно

CHIP
Глава банка «Траст» Александр Соколов: «Работа в банке непрофильных активов — это не живопись и не поэзия» Глава банка «Траст» Александр Соколов: «Работа в банке непрофильных активов — это не живопись и не поэзия»

Каких результатов ждут от банка непрофильных активов на базе банка «Траст»

Forbes
На пороге бессмертия. Когда люди поверят, что могут жить по 300 лет, и что это изменит На пороге бессмертия. Когда люди поверят, что могут жить по 300 лет, и что это изменит

Философия жизни поменяется, как только люди поймут, что могут жить не по 75 лет

Forbes
Персиковый жилет Supreme и Stone Island можно носить в любом возрасте Персиковый жилет Supreme и Stone Island можно носить в любом возрасте

Вы оказались на границе двух вселенных – хайпбистов и Анатолия Вассермана

GQ
«Забракованные»: как выглядят первые мужья Темниковой, Гагариной и других звезд «Забракованные»: как выглядят первые мужья Темниковой, Гагариной и других звезд

Некоторые звезды считают, что решение пойти в загс было поспешным

Cosmopolitan
«Smart regulation» как основная концепция развития отрасли торговли «Smart regulation» как основная концепция развития отрасли торговли

Мнение Сергея Белякова, Председателя Президиума АКОРТ

Forbes
Новый хозяин «Массандры». Что ждет легендарный бренд после приватизации Новый хозяин «Массандры». Что ждет легендарный бренд после приватизации

Будущее самой яркой жемчужины из наследия князя Льва Голицына

Forbes
Покоряя стихию Покоряя стихию

Отправляемся в необычный джип-тур, чтобы оказаться как можно ближе к природе

АвтоМир
Правь, Британия! Правь, Британия!

Выставка «Кристиан Диор, кутюрье мечты» чествует французского модельера

Grazia
Беспокойное я Беспокойное я

Что нужно знать, если вы заподозрили у ребенка СДВГ

Vogue
Восточная мудрость: зачем учиться в Китае и ждут ли там иностранцев Восточная мудрость: зачем учиться в Китае и ждут ли там иностранцев

Чем Китай привлекает студентов из-за рубежа и легко ли там найти работу

Forbes
Как объяснить на собеседовании, из-за чего тебя уволили с предыдущей работы Как объяснить на собеседовании, из-за чего тебя уволили с предыдущей работы

Как отвечать на вопрос об увольнении с предыдущего места работы

Playboy
Деревянный Кремль Деревянный Кремль

Так, как Владимир Клавихо-Телепнев, Москву еще не снимал никто

GQ
Кузбасс против Кемерово. Зачем губернатору Цивилеву ребрендинг области Кузбасс против Кемерово. Зачем губернатору Цивилеву ребрендинг области

Чем закончится переименование Кемеровской области

Forbes
Цена вопроса: звезды, которых обвиняли в «покупке» зрителей на свои концерты Цена вопроса: звезды, которых обвиняли в «покупке» зрителей на свои концерты

Случается, что публику на концерты «покупают» или заманивают приятными бонусами

Cosmopolitan
Древние люди и новые технологии: как Ли Бергер использовал все средства в поисках предков человека Древние люди и новые технологии: как Ли Бергер использовал все средства в поисках предков человека

Как за счет технологий привлечь финансирование в научное исследование

Forbes
Ловушка от Путина. Избежит ли Россия разбазаривания резервов Ловушка от Путина. Избежит ли Россия разбазаривания резервов

Угроза деприватизации и риски при распечатывании государственной «кубышки»

Forbes
Как всегда! Как всегда!

Женевский автосалон по-прежнему многолюден и насыщен яркими новинками

АвтоМир
«Сайлент Хилл», Припять и еще 6 городов-призраков «Сайлент Хилл», Припять и еще 6 городов-призраков

Некоторые из погибших городов остались практически неизменными

Cosmopolitan
Займемся (любовью) сексом? Займемся (любовью) сексом?

Секс без любви: заниматься или нет

Psychologies
Проверка на прочность Проверка на прочность

В судьбе человека заложены как минимум три кризиса, которых невозможно избежать

Лиза
Секреты воспитания успешных детей Секреты воспитания успешных детей

Что такое стратегическое воспитание и почему важно научить ребенка рано читать

Psychologies
Товарищ Елбасы Товарищ Елбасы

Транзит власти в Казахстане как спецоперация

Русский репортер
Бычий рынок Бычий рынок

Братья Линники с помощью государства создали продовольственный холдинг

Forbes
Кофе с корицей: польза и вред, плюс лучшие рецепты Кофе с корицей: польза и вред, плюс лучшие рецепты

Рецепты кофе с корицей, с которыми твоя жизнь никогда не будет прежней

Playboy
Открыть в приложении