Почему человек доверяет компьютеру и к чему это может привести?

VC.RUHi-Tech

Доверие на автопилоте: почему человек верит машине больше, чем людям, — и не напрасно ли

Перевод издания «Идеономика».

Полина Лааксо

1280
Кадр из фильма Спайка Джонса «Она» 2013 года

Журналисты BBC рассказали, почему человек склонен доверять компьютеру и к чему это может привести. Материал перевело издание «Идеономика».

Многие люди заявляют, что скептически относятся к автономным технологиям, но кажется, мы, наоборот, слишком доверяем машинам.

Когда рейс 447 Air France полетел брюхом в Атлантический океан со скоростью почти 300 км в час, пилоту Пьеру-Седрику Бонену пришлось бороться со штурвалом. Он взял управление на себя, когда автопилот внезапно отключился, по-видимому, из-за оледенения на корпусе. Ситуация требовала ручного вмешательства.

Другие пилоты, не предполагавшие такого сценария, не могли стабилизировать самолёт. Их сбивали с толку сообщения и сигналы тревоги от бортового компьютера — всё выглядело так, будто двигатель не заглох, хотя на самом деле ситуация была критической.

Все 216 пассажиров и 12 членов экипажа погибли в тот день, 1 июня 2009 года. У таких несчастных случаев с участием людей и техники обычно существует несколько факторов или причин. Но аналитики частично обвиняют в трагедии рейса 447 чрезмерное доверие к технологиям.

Лётный экипаж надеялся на автопилот и на то, что информационные системы самолёта предоставляют точную информацию. И это далеко не единственный инцидент, в котором излишнее доверие к технологиям привело к гибели людей.

1280
Wikipedia

Это хорошо изученное явление, известное как предвзятость автоматизации, которая иногда также приводит к потере бдительности — то есть люди меньше способны замечать неисправности, когда всем управляет компьютер. Удивительно то, что на эту склонность «слишком доверять» машинам, возможно, напрямую повлияли миллионы лет эволюции.

«Излишнее доверие к технологиям — это ошибка ошеломляющего масштаба», — пишет Патрисия Хардре из Университета Оклахомы. Она утверждает, что людям обычно не хватает способности судить о том, насколько надежна конкретная технология. Мы иногда отказываемся от помощи компьютера в ситуациях, когда это принесёт нам пользу, или слепо доверяем ему тогда, когда он в конечном счёте вредит человеку и угрожает его существованию.

Поведение одного из наших ближайших родственников, шимпанзе, указывает на то, почему мы так плохо умеем оценивать надежность техники. Возможно, причина в том, что мы вместо этого оцениваем других представителей своего вида.

В недавнем эксперименте исследователи создали устройство, позволяющее шимпанзе в заповеднике в Кении получать еду, потянув за верёвку. Одна верёвка предлагала основную награду в виде кусочка банана. Но был второй вариант — более крупное вознаграждение в виде двух кусочков банана и ломтика яблока, которые можно было получить либо с помощью машины, либо от другого шимпанзе.

Однако иногда машина не выдавала угощение, а другой шимпанзе предпочитал не делиться. Таким образом, хотя этот способ потенциально обещал большую награду, его использование предполагало некую неопределённость. А участники-шимпанзе оказывались либо в социальных, либо в несоциальных условиях. Им нужно было довериться либо машине, либо другому шимпанзе, чтобы иметь шанс получить большее вознаграждение.

Исследование показало, что приматы реже выбирали способ, когда на другом конце верёвки оказывался другой шимпанзе, и отказывались участвовать в социальном эксперименте в 12% случаев. Но машину они отвергали только в 4% случаев. Другими словами, технике они доверяли больше.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

7 самых эффектных спутниковых фотографий Земли 7 самых эффектных спутниковых фотографий Земли

Наша планета выглядит эффектнее с высоты спутников

Популярная механика
Выкидыш из-за скандала: охранник роддома выгнал истекающую кровью беременную Выкидыш из-за скандала: охранник роддома выгнал истекающую кровью беременную

Уроженка Обнинска Калужской области потеряла ребенка на 4-й неделе беременности

Cosmopolitan
«Третий» Мандельштам «Третий» Мандельштам

Роальд Мандельштам — знаковый поэт ленинградского андерграунда

Караван историй
«Если клиенты видят халяльный логотип, это придаёт им уверенности в продукте»: как устроен исламский банкинг в Индонезии «Если клиенты видят халяльный логотип, это придаёт им уверенности в продукте»: как устроен исламский банкинг в Индонезии

Какие сложности в том, чтобы создать приложение по законам шариата

VC.RU
Мигрень: симптомы, причины, лечение Мигрень: симптомы, причины, лечение

Откуда берется мигрень и как минимизировать её проявления

РБК
«Если будешь всех слушать, то проиграешь»: главное из интервью Михаила Токовинина, основателя amoCRM «Если будешь всех слушать, то проиграешь»: главное из интервью Михаила Токовинина, основателя amoCRM

Основатель amoCRM — зачем он нанимает неуверенных в себе людей?

VC.RU
Жена Моргенштерна Дилара — кто стоит за главным скандалистом российского шоу-бизнеса Жена Моргенштерна Дилара — кто стоит за главным скандалистом российского шоу-бизнеса

Каждый раз с Моргенштерном была его любимая Дилара

Maxim
Немецкие физики сообщили о возможном открытии тетранейтрона Немецкие физики сообщили о возможном открытии тетранейтрона

Группа физиков сообщила об обнаружении частицы, состоящей из четырех нейтронов

N+1
Зуб на зуб: 7 звезд, которые превратили неидеальную улыбку в свою фишку Зуб на зуб: 7 звезд, которые превратили неидеальную улыбку в свою фишку

Звезды, которые не подчинились моде на голливудскую улыбку

Cosmopolitan
5 ошибок основателей Planner 5D Сергея Носырева и Алексея Шереметьева 5 ошибок основателей Planner 5D Сергея Носырева и Алексея Шереметьева

Самые болезненные ошибки основателей сервиса Planner 5D

Inc.
Курсы дизайнеров Курсы дизайнеров

Как Александр Аврамов и Андрей Анищенко строят «единорога» в Латинской Америке

Forbes
Выйти из операционки: миссия невыполнима? Выйти из операционки: миссия невыполнима?

Кажется, что без тебя все вмиг рухнет? Как выйти из замкнутого круга

Inc.
Почему так сложно выйти из токсичных отношений Почему так сложно выйти из токсичных отношений

Почему прекратить абьюзивные отношения бывает крайне непросто?

Psychologies
Ford Bronco. Ренессанс внедорожной классики Ford Bronco. Ренессанс внедорожной классики

Иконы офф-роуда уходить никуда не собираются

4x4 Club
5 странных японских новогодних традиций 5 странных японских новогодних традиций

Что японцы делают на праздники — это просто уму непостижимо!

Maxim
Что такое гиалуроновая кислота и как она работает Что такое гиалуроновая кислота и как она работает

Гиалуроновая кислота: как с ее помощью сделать кожу красивее и здоровее?

РБК
8 идей, что подарить лучшей подруге на 8 марта 8 идей, что подарить лучшей подруге на 8 марта

Что можно подарить на 8 марта подруге

Cosmopolitan
Трудности доказательного перехода Трудности доказательного перехода

Как данные, собираемые университетами, могут быть полезны

Наука
«Сначала лучше, потом дешевле. Сначала доходы, потом расходы» «Сначала лучше, потом дешевле. Сначала доходы, потом расходы»

Интервью руководителя ВТБ Private Banking Дмитрия Брейтенбихера

Forbes
Обидел ребенка на дне рождения: поступки, которых стыдятся звезды Обидел ребенка на дне рождения: поступки, которых стыдятся звезды

Звезды тоже совершали в жизни поступки, которые им запомнились на всю жизнь

Cosmopolitan
На родине художника На родине художника

Хвалынск мало известен, но очень популярен в Саратовской и соседних областях

Отдых в России
Как получать удовольствие от неприятных дел? Читаем книгу «Без усилий» Как получать удовольствие от неприятных дел? Читаем книгу «Без усилий»

Зачем мучиться, занимаясь важными делами, если можно ими наслаждаться

РБК
Защита мистера Бига: Григорий Туманов — о том, чему Защита мистера Бига: Григорий Туманов — о том, чему

Сериальные мужчины и чему конкретно учит тот самый СвБГ

Esquire
Для чего нужен витамин А: комментарии врача Для чего нужен витамин А: комментарии врача

Зачем и кому нужен витамин А?

РБК
Вспомнить все Вспомнить все

В 2021-м светская жизнь стала динамичнее, что не может не радовать

Grazia
ТОП-5 крошечных домов 2021 года ТОП-5 крошечных домов 2021 года

Самые интересные крошечные дома 2021 года

Популярная механика
«Новые технологии стерли былые социальные перегородки» «Новые технологии стерли былые социальные перегородки»

Пятерка главных «гуманитарных» трендов, изменивших мир за 15 лет

РБК
Вплоть до снятия с учета: ГИБДД жестко отреагировала на уловку водителей Вплоть до снятия с учета: ГИБДД жестко отреагировала на уловку водителей

Установка двойных стекол в машине – штраф

РБК
«Корабль дураков» Дмитрия Крымова «Корабль дураков» Дмитрия Крымова

О творческом методе Дмитрия Крымова размышляет Алла Боссарт

СНОБ
10 увлекательных документальных фильмов 10 увлекательных документальных фильмов

Подборка нескучного и познавательного кино

СНОБ
Открыть в приложении