Почему человек доверяет компьютеру и к чему это может привести?

VC.RUHi-Tech

Доверие на автопилоте: почему человек верит машине больше, чем людям, — и не напрасно ли

Перевод издания «Идеономика».

Полина Лааксо

1280
Кадр из фильма Спайка Джонса «Она» 2013 года

Журналисты BBC рассказали, почему человек склонен доверять компьютеру и к чему это может привести. Материал перевело издание «Идеономика».

Многие люди заявляют, что скептически относятся к автономным технологиям, но кажется, мы, наоборот, слишком доверяем машинам.

Когда рейс 447 Air France полетел брюхом в Атлантический океан со скоростью почти 300 км в час, пилоту Пьеру-Седрику Бонену пришлось бороться со штурвалом. Он взял управление на себя, когда автопилот внезапно отключился, по-видимому, из-за оледенения на корпусе. Ситуация требовала ручного вмешательства.

Другие пилоты, не предполагавшие такого сценария, не могли стабилизировать самолёт. Их сбивали с толку сообщения и сигналы тревоги от бортового компьютера — всё выглядело так, будто двигатель не заглох, хотя на самом деле ситуация была критической.

Все 216 пассажиров и 12 членов экипажа погибли в тот день, 1 июня 2009 года. У таких несчастных случаев с участием людей и техники обычно существует несколько факторов или причин. Но аналитики частично обвиняют в трагедии рейса 447 чрезмерное доверие к технологиям.

Лётный экипаж надеялся на автопилот и на то, что информационные системы самолёта предоставляют точную информацию. И это далеко не единственный инцидент, в котором излишнее доверие к технологиям привело к гибели людей.

1280
Wikipedia

Это хорошо изученное явление, известное как предвзятость автоматизации, которая иногда также приводит к потере бдительности — то есть люди меньше способны замечать неисправности, когда всем управляет компьютер. Удивительно то, что на эту склонность «слишком доверять» машинам, возможно, напрямую повлияли миллионы лет эволюции.

«Излишнее доверие к технологиям — это ошибка ошеломляющего масштаба», — пишет Патрисия Хардре из Университета Оклахомы. Она утверждает, что людям обычно не хватает способности судить о том, насколько надежна конкретная технология. Мы иногда отказываемся от помощи компьютера в ситуациях, когда это принесёт нам пользу, или слепо доверяем ему тогда, когда он в конечном счёте вредит человеку и угрожает его существованию.

Поведение одного из наших ближайших родственников, шимпанзе, указывает на то, почему мы так плохо умеем оценивать надежность техники. Возможно, причина в том, что мы вместо этого оцениваем других представителей своего вида.

В недавнем эксперименте исследователи создали устройство, позволяющее шимпанзе в заповеднике в Кении получать еду, потянув за верёвку. Одна верёвка предлагала основную награду в виде кусочка банана. Но был второй вариант — более крупное вознаграждение в виде двух кусочков банана и ломтика яблока, которые можно было получить либо с помощью машины, либо от другого шимпанзе.

Однако иногда машина не выдавала угощение, а другой шимпанзе предпочитал не делиться. Таким образом, хотя этот способ потенциально обещал большую награду, его использование предполагало некую неопределённость. А участники-шимпанзе оказывались либо в социальных, либо в несоциальных условиях. Им нужно было довериться либо машине, либо другому шимпанзе, чтобы иметь шанс получить большее вознаграждение.

Исследование показало, что приматы реже выбирали способ, когда на другом конце верёвки оказывался другой шимпанзе, и отказывались участвовать в социальном эксперименте в 12% случаев. Но машину они отвергали только в 4% случаев. Другими словами, технике они доверяли больше.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Синдром Плюшкина»: безобидная причуда или личностное расстройство? «Синдром Плюшкина»: безобидная причуда или личностное расстройство?

«Синдром Плюшкина», или «хоардинг» — чем опасен и как лечить?

Psychologies
Химики получили водород на катоде и аноде одновременно Химики получили водород на катоде и аноде одновременно

Ученые разработали новую систему электролиза

N+1
Водителей штрафуют, когда они просто стоят в пробке. Подробности и фото Водителей штрафуют, когда они просто стоят в пробке. Подробности и фото

Нередко появляются жалобы на штрафы за так называемое «стояние в пробке»

РБК
«Гормон объятий» окситоцин: как он влияет на наш организм «Гормон объятий» окситоцин: как он влияет на наш организм

Какие функции окситоцин выполняет в нашем организме?

Популярная механика
От виски и ростбифа до магии и дворцовых переворотов: 5 идей для тех, кто не знает, что подарить близким От виски и ростбифа до магии и дворцовых переворотов: 5 идей для тех, кто не знает, что подарить близким

5 книг, среди которых точно найдется подарок для каждого

Популярная механика
Разгадка истории Венеры кроется в её поверхности Разгадка истории Венеры кроется в её поверхности

Активны ли венерианские вулканы сегодня?

Наука и жизнь
Что такое анорексия: симптомы, причины, лечение Что такое анорексия: симптомы, причины, лечение

Что вызывает анорексию, каковые её последствия и как её вылечить?

РБК
Обидел ребенка на дне рождения: поступки, которых стыдятся звезды Обидел ребенка на дне рождения: поступки, которых стыдятся звезды

Звезды тоже совершали в жизни поступки, которые им запомнились на всю жизнь

Cosmopolitan
«What the fuck is going on? Вот в чем вопрос!» «What the fuck is going on? Вот в чем вопрос!»

Художник Дэмиен Хёрст о реальности и иллюзии, об искусстве и не-искусстве

Weekend
Инструкция по достижению невозможного: как решать любые задачи с помощью нейробиологии Инструкция по достижению невозможного: как решать любые задачи с помощью нейробиологии

Отрывок из книги Стивена Котлера «Невозможное как стратегия»

Inc.
Арктические снегопады станут дождями к 2060 году Арктические снегопады станут дождями к 2060 году

Моделирование показало на переход осадков в Арктике от снега к дождю к 2060 году

N+1
Глубоководный карьер: как добыть алмазы со дна океана Глубоководный карьер: как добыть алмазы со дна океана

«Погружение» горнодобывающих компаний на океанское дно

Популярная механика
Что такое метеозависимость и как ее лечить, советы врача Что такое метеозависимость и как ее лечить, советы врача

Для многих погода становится тяжелым испытанием из-за метеозависимости

РБК
Страшный талант: картины, нарисованные серийными убийцами Страшный талант: картины, нарисованные серийными убийцами

Нам всем иногда хочется заглянуть в бездну

Cosmopolitan
Как пережить праздники без последствий: 5 принципов Как пережить праздники без последствий: 5 принципов

Всем известно, что за праздничным столом удержать себя в руках почти невозможно

Cosmopolitan
Женщина на грани Женщина на грани

Виктория Толстоганова и ее свежая киноработа в мрачном детективе «Казнь»

Harper's Bazaar
Абсолютный русский интеллигент и нравственный маяк: как вспоминают Дмитрия Зимина Абсолютный русский интеллигент и нравственный маяк: как вспоминают Дмитрия Зимина

Каким знали Дмитрия Зимина его коллеги и друзья?

Forbes
15 игр, которые укрепят отношения 15 игр, которые укрепят отношения

Подборка энергичных и психологических игр для вас двоих и компании друзей

Лиза
«Половина несчастий людей связана с тем, что они занимаются не своим делом». Владимир Познер — о необходимости усилий, бизнесе со знаком минус и верности себе «Половина несчастий людей связана с тем, что они занимаются не своим делом». Владимир Познер — о необходимости усилий, бизнесе со знаком минус и верности себе

Владимир Познер — о необходимости усилий и бизнесе со знаком минус

Inc.
Если завтра в поход. Пора ли нам начинать бояться большой войны Если завтра в поход. Пора ли нам начинать бояться большой войны

Станет ли взаимный страх тормозом для лидеров стран?

СНОБ
Археологи нашли на Урале погребение шаманки со связанными ногами Археологи нашли на Урале погребение шаманки со связанными ногами

Памятник относится ко второй половине IV века до нашей эры

N+1
Сэндвич-увлажнение: что это за бьюти-техника и почему к ней стоит присмотреться Сэндвич-увлажнение: что это за бьюти-техника и почему к ней стоит присмотреться

Разбираем еще один модный бьюти-термин — сэндвич-увлажнение

Cosmopolitan
Польза и вред мандаринов для здоровья: советы врача Польза и вред мандаринов для здоровья: советы врача

Разбираемся, чем могут быть полезны мандарины

РБК
В каких продуктах много витамина К В каких продуктах много витамина К

Чем опасен дефицит витамина К и как его восполнить

РБК
«Имени такого-то». Военный роман «Имени такого-то». Военный роман

Глава из книги «Имени такого-то» Линор Горалик

СНОБ
Как прошла первая дизайн-конференция Сбера SberDesign Conf Как прошла первая дизайн-конференция Сбера SberDesign Conf

Сбер провел свою первую глобальную конференцию по дизайну

РБК
Одна вокруг света: оползень на дороге и закрытая граница Эквадора Одна вокруг света: оползень на дороге и закрытая граница Эквадора

151-я серия о кругосветном путешествии москвички Ирины Сидоренко

Forbes
Как Август Мейер стал миллионером и почему попал в СИЗО Как Август Мейер стал миллионером и почему попал в СИЗО

Как предприимчивый американец Август Мейер заработал в России $650 млн

Forbes
Как здорово, что все мы здесь сегодня собрались: «Человек-паук: Нет пути домой» против ностальгии Как здорово, что все мы здесь сегодня собрались: «Человек-паук: Нет пути домой» против ностальгии

Почему новый «Человек-паук» — мощная и яркая картина?

Esquire
Газуй Рейсинг. Toyota LC 300 с дизелем Газуй Рейсинг. Toyota LC 300 с дизелем

Версия GR Sport превосходна с любым мотором

4x4 Club
Открыть в приложении