Почему человек доверяет компьютеру и к чему это может привести?

VC.RUHi-Tech

Доверие на автопилоте: почему человек верит машине больше, чем людям, — и не напрасно ли

Перевод издания «Идеономика».

Полина Лааксо

1280
Кадр из фильма Спайка Джонса «Она» 2013 года

Журналисты BBC рассказали, почему человек склонен доверять компьютеру и к чему это может привести. Материал перевело издание «Идеономика».

Многие люди заявляют, что скептически относятся к автономным технологиям, но кажется, мы, наоборот, слишком доверяем машинам.

Когда рейс 447 Air France полетел брюхом в Атлантический океан со скоростью почти 300 км в час, пилоту Пьеру-Седрику Бонену пришлось бороться со штурвалом. Он взял управление на себя, когда автопилот внезапно отключился, по-видимому, из-за оледенения на корпусе. Ситуация требовала ручного вмешательства.

Другие пилоты, не предполагавшие такого сценария, не могли стабилизировать самолёт. Их сбивали с толку сообщения и сигналы тревоги от бортового компьютера — всё выглядело так, будто двигатель не заглох, хотя на самом деле ситуация была критической.

Все 216 пассажиров и 12 членов экипажа погибли в тот день, 1 июня 2009 года. У таких несчастных случаев с участием людей и техники обычно существует несколько факторов или причин. Но аналитики частично обвиняют в трагедии рейса 447 чрезмерное доверие к технологиям.

Лётный экипаж надеялся на автопилот и на то, что информационные системы самолёта предоставляют точную информацию. И это далеко не единственный инцидент, в котором излишнее доверие к технологиям привело к гибели людей.

1280
Wikipedia

Это хорошо изученное явление, известное как предвзятость автоматизации, которая иногда также приводит к потере бдительности — то есть люди меньше способны замечать неисправности, когда всем управляет компьютер. Удивительно то, что на эту склонность «слишком доверять» машинам, возможно, напрямую повлияли миллионы лет эволюции.

«Излишнее доверие к технологиям — это ошибка ошеломляющего масштаба», — пишет Патрисия Хардре из Университета Оклахомы. Она утверждает, что людям обычно не хватает способности судить о том, насколько надежна конкретная технология. Мы иногда отказываемся от помощи компьютера в ситуациях, когда это принесёт нам пользу, или слепо доверяем ему тогда, когда он в конечном счёте вредит человеку и угрожает его существованию.

Поведение одного из наших ближайших родственников, шимпанзе, указывает на то, почему мы так плохо умеем оценивать надежность техники. Возможно, причина в том, что мы вместо этого оцениваем других представителей своего вида.

В недавнем эксперименте исследователи создали устройство, позволяющее шимпанзе в заповеднике в Кении получать еду, потянув за верёвку. Одна верёвка предлагала основную награду в виде кусочка банана. Но был второй вариант — более крупное вознаграждение в виде двух кусочков банана и ломтика яблока, которые можно было получить либо с помощью машины, либо от другого шимпанзе.

Однако иногда машина не выдавала угощение, а другой шимпанзе предпочитал не делиться. Таким образом, хотя этот способ потенциально обещал большую награду, его использование предполагало некую неопределённость. А участники-шимпанзе оказывались либо в социальных, либо в несоциальных условиях. Им нужно было довериться либо машине, либо другому шимпанзе, чтобы иметь шанс получить большее вознаграждение.

Исследование показало, что приматы реже выбирали способ, когда на другом конце верёвки оказывался другой шимпанзе, и отказывались участвовать в социальном эксперименте в 12% случаев. Но машину они отвергали только в 4% случаев. Другими словами, технике они доверяли больше.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

7 самых эффектных спутниковых фотографий Земли 7 самых эффектных спутниковых фотографий Земли

Наша планета выглядит эффектнее с высоты спутников

Популярная механика
59 м² 59 м²

Квартира с яркими акцентами по проекту Ильи Гульянца

AD
Какие анализы и как часто надо сдавать здоровому человеку — рассказывает эксперт Какие анализы и как часто надо сдавать здоровому человеку — рассказывает эксперт

Чекап — какие анализы нужно сдавать, чтобы выявить заболевания на ранней стадии

Cosmopolitan
10 лучших книг по психологии по мнению эксперта 10 лучших книг по психологии по мнению эксперта

Эти книги помогут вам разобраться в устройстве психики и понять свои эмоции

РБК
Программа тренировок для девушек в тренажерном зале Программа тренировок для девушек в тренажерном зале

Как составить эффективную программу тренировок для девушек

VOICE
Абсолютный русский интеллигент и нравственный маяк: как вспоминают Дмитрия Зимина Абсолютный русский интеллигент и нравственный маяк: как вспоминают Дмитрия Зимина

Каким знали Дмитрия Зимина его коллеги и друзья?

Forbes
5 продуктов, которые помогут заснуть и лучше выспаться 5 продуктов, которые помогут заснуть и лучше выспаться

Что съесть перед сном, чтобы лучше спалось?

Популярная механика
Физики предложили искать темную материю с помощью детекторов гравитационных волн Физики предложили искать темную материю с помощью детекторов гравитационных волн

Физики предложили новый метод обнаружения частиц легкой темной материи

N+1
Z — значит Зендея: почему самая безукоризненная голливудская звезда заслуживает внимания Z — значит Зендея: почему самая безукоризненная голливудская звезда заслуживает внимания

Как Зендея запололнила медиа-пространство и почему стоит за ней следить

Esquire
Чаты, боты, персональные данные: как Райффайзенбанк общается с клиентами Чаты, боты, персональные данные: как Райффайзенбанк общается с клиентами

Райффайзенбанк: какую информацию собирают боты, как они общаются с клиентами?

Forbes
Саманта против: как Ким Кэтролл пошла наперекор проекту, сделавшему ее звездой Саманта против: как Ким Кэтролл пошла наперекор проекту, сделавшему ее звездой

Почему Ким Кэтролл, сыгравшая Саманту, так ненавидит «Секс в большом городе»

VOICE
Интим предлагать Интим предлагать

Когда женщина выбирает отношения без обязательств

Лиза
Испанские хищные динозавры оказались быстрыми бегунами Испанские хищные динозавры оказались быстрыми бегунами

Ископаемые следы теропод показали, что эти динозавры быстро бегали

N+1
«Товарищ» Омарова. Как уроженка СССР Сауле Омарова чуть не стала финансовым контролером США «Товарищ» Омарова. Как уроженка СССР Сауле Омарова чуть не стала финансовым контролером США

Сауле Омарова отказалась от борьбы за пост финансового контролера США

СНОБ
Надежда на невесомость Надежда на невесомость

Юрий Сапрыкин о своей любви ко всему про космос

Weekend
«Может привести к гражданской войне». Чем для России опасно возвращение смертной казни «Может привести к гражданской войне». Чем для России опасно возвращение смертной казни

Почему возвращение смертной казни может привести к народным волнениям

СНОБ
Мыли и снова пользовались: история презервативов с древности до наших дней Мыли и снова пользовались: история презервативов с древности до наших дней

Какими были презервативы в древности и какими они стали сегодня

Cosmopolitan
10 лучших сериалов 2021 года 10 лучших сериалов 2021 года

Рейтинг лучших сериалов 2021 года

Esquire
75 м² 75 м²

“Полосатая” квартира для семьи дизайнера Марии Нечаевой

AD
Как выбрать аромат для дома Как выбрать аромат для дома

Как правильно подобранный аромат помогает справиться со стрессом и хандрой?

Psychologies
«Женщин воспринимают как товар! Отвратительно!»: Анна Хилькевич об эйджизме «Женщин воспринимают как товар! Отвратительно!»: Анна Хилькевич об эйджизме

Анна Хилькевич высказалась о дискриминации женщин по возрасту

Cosmopolitan
Как правильно загадывать желания в Новогоднюю ночь? 8 простых способов Как правильно загадывать желания в Новогоднюю ночь? 8 простых способов

Что сделать, чтобы желания точно исполнились?

Cosmopolitan
Мне бы мяса: 4 лайфхака, как выбрать идеальный стейк в магазине Мне бы мяса: 4 лайфхака, как выбрать идеальный стейк в магазине

Как выбрать лучший кусок мяса для стейка и не прогадать

Playboy
Учёные создали технологию, переводящую инфракрасное излучение в видимый диапазон Учёные создали технологию, переводящую инфракрасное излучение в видимый диапазон

Исследователи придумали способ видеть в инфракрасном диапазоне как в тепловизоре

Популярная механика
Гном и красавица: на ком женился самый маленький мужчина СССР Гном и красавица: на ком женился самый маленький мужчина СССР

По каким причинам Костя Морозов родился крохотным, никто не знал

Cosmopolitan
Почему не стоит покупать детям слишком много игрушек Почему не стоит покупать детям слишком много игрушек

Как правильно выбирать детям игрушки?

Популярная механика
Археологи переоткрыли в Польше скальное убежище охотников-собирателей эпохи мезолита Археологи переоткрыли в Польше скальное убежище охотников-собирателей эпохи мезолита

Археологи повторно исследовали скальное убежище неподалеку от Кракова

N+1
Adobe Flash Player больше нет: чем его заменить Adobe Flash Player больше нет: чем его заменить

Чем же теперь пользоваться после отказа Adobe от Flash Player?

Популярная механика
Магнитометры улучшили качество и скорость нейровизуализации Магнитометры улучшили качество и скорость нейровизуализации

Как можно усовершенствовать существующие методы нейровизуализации

N+1
Отряд самоубийц: пять животных без инстинкта самосохранения Отряд самоубийц: пять животных без инстинкта самосохранения

Эти животные каким-то чудом дотянули до наших дней!

Maxim
Открыть в приложении