Почему человек доверяет компьютеру и к чему это может привести?

VC.RUHi-Tech

Доверие на автопилоте: почему человек верит машине больше, чем людям, — и не напрасно ли

Перевод издания «Идеономика».

Полина Лааксо

1280
Кадр из фильма Спайка Джонса «Она» 2013 года

Журналисты BBC рассказали, почему человек склонен доверять компьютеру и к чему это может привести. Материал перевело издание «Идеономика».

Многие люди заявляют, что скептически относятся к автономным технологиям, но кажется, мы, наоборот, слишком доверяем машинам.

Когда рейс 447 Air France полетел брюхом в Атлантический океан со скоростью почти 300 км в час, пилоту Пьеру-Седрику Бонену пришлось бороться со штурвалом. Он взял управление на себя, когда автопилот внезапно отключился, по-видимому, из-за оледенения на корпусе. Ситуация требовала ручного вмешательства.

Другие пилоты, не предполагавшие такого сценария, не могли стабилизировать самолёт. Их сбивали с толку сообщения и сигналы тревоги от бортового компьютера — всё выглядело так, будто двигатель не заглох, хотя на самом деле ситуация была критической.

Все 216 пассажиров и 12 членов экипажа погибли в тот день, 1 июня 2009 года. У таких несчастных случаев с участием людей и техники обычно существует несколько факторов или причин. Но аналитики частично обвиняют в трагедии рейса 447 чрезмерное доверие к технологиям.

Лётный экипаж надеялся на автопилот и на то, что информационные системы самолёта предоставляют точную информацию. И это далеко не единственный инцидент, в котором излишнее доверие к технологиям привело к гибели людей.

1280
Wikipedia

Это хорошо изученное явление, известное как предвзятость автоматизации, которая иногда также приводит к потере бдительности — то есть люди меньше способны замечать неисправности, когда всем управляет компьютер. Удивительно то, что на эту склонность «слишком доверять» машинам, возможно, напрямую повлияли миллионы лет эволюции.

«Излишнее доверие к технологиям — это ошибка ошеломляющего масштаба», — пишет Патрисия Хардре из Университета Оклахомы. Она утверждает, что людям обычно не хватает способности судить о том, насколько надежна конкретная технология. Мы иногда отказываемся от помощи компьютера в ситуациях, когда это принесёт нам пользу, или слепо доверяем ему тогда, когда он в конечном счёте вредит человеку и угрожает его существованию.

Поведение одного из наших ближайших родственников, шимпанзе, указывает на то, почему мы так плохо умеем оценивать надежность техники. Возможно, причина в том, что мы вместо этого оцениваем других представителей своего вида.

В недавнем эксперименте исследователи создали устройство, позволяющее шимпанзе в заповеднике в Кении получать еду, потянув за верёвку. Одна верёвка предлагала основную награду в виде кусочка банана. Но был второй вариант — более крупное вознаграждение в виде двух кусочков банана и ломтика яблока, которые можно было получить либо с помощью машины, либо от другого шимпанзе.

Однако иногда машина не выдавала угощение, а другой шимпанзе предпочитал не делиться. Таким образом, хотя этот способ потенциально обещал большую награду, его использование предполагало некую неопределённость. А участники-шимпанзе оказывались либо в социальных, либо в несоциальных условиях. Им нужно было довериться либо машине, либо другому шимпанзе, чтобы иметь шанс получить большее вознаграждение.

Исследование показало, что приматы реже выбирали способ, когда на другом конце верёвки оказывался другой шимпанзе, и отказывались участвовать в социальном эксперименте в 12% случаев. Но машину они отвергали только в 4% случаев. Другими словами, технике они доверяли больше.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Не заводится автомобиль: причины, их симптомы и решения Не заводится автомобиль: причины, их симптомы и решения

Что надо знать автомобилистам о причинах отказа запуска двигателя

РБК
Гибрид помело и апельсина: 7 полезных свойств грейпфрута Гибрид помело и апельсина: 7 полезных свойств грейпфрута

Источник витамина С, клетчатки, минералов и антиоксидантов — грейпфрут

РБК
Культурные коды экономики: как изменить национальные особенности, не теряя лицо Культурные коды экономики: как изменить национальные особенности, не теряя лицо

Можно ли так изменить культуру, чтобы не повредить национальную идентичность?

Forbes
Страшные мысли наших детей: можем ли мы помочь? Страшные мысли наших детей: можем ли мы помочь?

Душевное состояние детей и подростков вызывает серьезнейшие опасения

Psychologies
Наступление эпохи викингов объяснили усилением конкуренции в морской торговле Наступление эпохи викингов объяснили усилением конкуренции в морской торговле

Ученые обнаружили активизацию торговых связей благодаря уточнению датировок

N+1
Самые любопытные игры, в которые мы играли в 2021 году Самые любопытные игры, в которые мы играли в 2021 году

Пять игр 2021 года, на которые стоит обратить внимание

Esquire
«Никаких посиделок с друзьями»: как живет семья с пятерняшками из Приморья «Никаких посиделок с друзьями»: как живет семья с пятерняшками из Приморья

Больше всего родителей пятерняшек раздражает вопрос: «Как вы справляетесь?»

Cosmopolitan
«Мы должны быть уверены, что не отравим людей». Как изменилась жизнь рестораторов после введения обязательной маркировки продуктов «Мы должны быть уверены, что не отравим людей». Как изменилась жизнь рестораторов после введения обязательной маркировки продуктов

Доля фальсифицированных продуктов на российском рынке достигает 20%

СНОБ
Примерзли дворники, запотели стекла. Советы водителям (как избавиться) Примерзли дворники, запотели стекла. Советы водителям (как избавиться)

Чем чистить фары, почему стоит беречь колодки и как избежать наледи на стекле?

РБК
Президент русского рэпа: что хотел сказать автор в новом альбоме Оксимирона Президент русского рэпа: что хотел сказать автор в новом альбоме Оксимирона

Каким оказался долгожданный релиз Оксимирона?

Forbes
Как помочь себе при утренней тревоге Как помочь себе при утренней тревоге

Неудивительно, что по утрам многие из нас испытывают приступы тревоги

Psychologies
Влияние глобального потепления на окраску зайцев-беляков Влияние глобального потепления на окраску зайцев-беляков

Давайте разбираться, как заяц-беляк переносит зиму в условиях изменения климата

Популярная механика
“Я похудела на 140 килограммов!” – 10 историй невероятных изменений “Я похудела на 140 килограммов!” – 10 историй невероятных изменений

Они сделали это - и ты тоже сможешь

Cosmopolitan
«Meta явно не будет одна в этом забеге»: как работает китайская метавселенная от Baidu «Meta явно не будет одна в этом забеге»: как работает китайская метавселенная от Baidu

Виртуальными мирами занялись не только в США

VC.RU
Как банки управляют нашими деньгами (и борются за доверие клиента)? Разговор Сергея Минаева с старшим вице-президентом ВТБ Дмитрием Брейтенбихером Как банки управляют нашими деньгами (и борются за доверие клиента)? Разговор Сергея Минаева с старшим вице-президентом ВТБ Дмитрием Брейтенбихером

О том, как банки перестраиваются в цифровом мире и какое место занимает клиент

Esquire
Долгие разговоры с незнакомцами могут иметь удивительные последствия Долгие разговоры с незнакомцами могут иметь удивительные последствия

Ожидания людей относительно их взаимодействия с незнакомцами ошибочны

Популярная механика
Польза и вред хурмы для здоровья: советы врача Польза и вред хурмы для здоровья: советы врача

Чем именно хороша хурма и сколько плодов в день есть полезно?

РБК
А теперь про здоровье зубов и десен! А теперь про здоровье зубов и десен!

Эти правила застрахуют от запущенного пульпита и других проблем с зубами

Собака.ru
Солнечные панели, улавливающие и свет, и тепло: удвоим ресурс Солнечные панели, улавливающие и свет, и тепло: удвоим ресурс

Как преобразовать солнечное тепло в полезную энергию?

Популярная механика
Чисто английский юмор. Как шутят настоящие джентльмены? Чисто английский юмор. Как шутят настоящие джентльмены?

Можно ли научиться шутить как истинный эсквайр «пришельцам» из других стран?

Популярная механика
Ритуал викингов «Кровавый орёл» был анатомически возможен Ритуал викингов «Кровавый орёл» был анатомически возможен

«Кровавый орёл» — выдумка или реально существовавший ритуал?

Популярная механика
Домик на волне Домик на волне

«Море волнуется раз»: главный фильм 2021 года по версии «Кинотавтра»

Weekend
От 100 000 в месяц до вычета: где в России получают «московские» зарплаты От 100 000 в месяц до вычета: где в России получают «московские» зарплаты

У трети работающих в столице уровень зарплат соответствует среднему по Москве

Forbes
Не могу пить как раньше: почему похмелье с возрастом становится тяжелее Не могу пить как раньше: почему похмелье с возрастом становится тяжелее

С годами алкогольные излишества даются тебе и твоему организму всё сложнее?

Cosmopolitan
Hic sunt dracones Hic sunt dracones

Птерозавр размером с истребитель — как выглядел и летал кетцалькоатль

N+1
Модный Новгород Модный Новгород

Великий Новгород: современный и неисхоженный

Отдых в России
Пять примеров, как автопилот Tesla спасает жизни Пять примеров, как автопилот Tesla спасает жизни

Система автономного вождения способна на многое

Playboy
Космическая еда: что едят космонавты Космическая еда: что едят космонавты

Что едят космонавты в космосе?

ТехИнсайдер
Как избавиться от мозолей и научиться правильно выбирать обувь Как избавиться от мозолей и научиться правильно выбирать обувь

Несколько советов, чтобы шагать было весело

Playboy
Тренды 2022: аудиоформат возвращается в топы Тренды 2022: аудиоформат возвращается в топы

Как научиться воспринимать информацию на слух?

Популярная механика
Открыть в приложении