Почему человек доверяет компьютеру и к чему это может привести?

VC.RUHi-Tech

Доверие на автопилоте: почему человек верит машине больше, чем людям, — и не напрасно ли

Перевод издания «Идеономика».

Полина Лааксо

1280
Кадр из фильма Спайка Джонса «Она» 2013 года

Журналисты BBC рассказали, почему человек склонен доверять компьютеру и к чему это может привести. Материал перевело издание «Идеономика».

Многие люди заявляют, что скептически относятся к автономным технологиям, но кажется, мы, наоборот, слишком доверяем машинам.

Когда рейс 447 Air France полетел брюхом в Атлантический океан со скоростью почти 300 км в час, пилоту Пьеру-Седрику Бонену пришлось бороться со штурвалом. Он взял управление на себя, когда автопилот внезапно отключился, по-видимому, из-за оледенения на корпусе. Ситуация требовала ручного вмешательства.

Другие пилоты, не предполагавшие такого сценария, не могли стабилизировать самолёт. Их сбивали с толку сообщения и сигналы тревоги от бортового компьютера — всё выглядело так, будто двигатель не заглох, хотя на самом деле ситуация была критической.

Все 216 пассажиров и 12 членов экипажа погибли в тот день, 1 июня 2009 года. У таких несчастных случаев с участием людей и техники обычно существует несколько факторов или причин. Но аналитики частично обвиняют в трагедии рейса 447 чрезмерное доверие к технологиям.

Лётный экипаж надеялся на автопилот и на то, что информационные системы самолёта предоставляют точную информацию. И это далеко не единственный инцидент, в котором излишнее доверие к технологиям привело к гибели людей.

1280
Wikipedia

Это хорошо изученное явление, известное как предвзятость автоматизации, которая иногда также приводит к потере бдительности — то есть люди меньше способны замечать неисправности, когда всем управляет компьютер. Удивительно то, что на эту склонность «слишком доверять» машинам, возможно, напрямую повлияли миллионы лет эволюции.

«Излишнее доверие к технологиям — это ошибка ошеломляющего масштаба», — пишет Патрисия Хардре из Университета Оклахомы. Она утверждает, что людям обычно не хватает способности судить о том, насколько надежна конкретная технология. Мы иногда отказываемся от помощи компьютера в ситуациях, когда это принесёт нам пользу, или слепо доверяем ему тогда, когда он в конечном счёте вредит человеку и угрожает его существованию.

Поведение одного из наших ближайших родственников, шимпанзе, указывает на то, почему мы так плохо умеем оценивать надежность техники. Возможно, причина в том, что мы вместо этого оцениваем других представителей своего вида.

В недавнем эксперименте исследователи создали устройство, позволяющее шимпанзе в заповеднике в Кении получать еду, потянув за верёвку. Одна верёвка предлагала основную награду в виде кусочка банана. Но был второй вариант — более крупное вознаграждение в виде двух кусочков банана и ломтика яблока, которые можно было получить либо с помощью машины, либо от другого шимпанзе.

Однако иногда машина не выдавала угощение, а другой шимпанзе предпочитал не делиться. Таким образом, хотя этот способ потенциально обещал большую награду, его использование предполагало некую неопределённость. А участники-шимпанзе оказывались либо в социальных, либо в несоциальных условиях. Им нужно было довериться либо машине, либо другому шимпанзе, чтобы иметь шанс получить большее вознаграждение.

Исследование показало, что приматы реже выбирали способ, когда на другом конце верёвки оказывался другой шимпанзе, и отказывались участвовать в социальном эксперименте в 12% случаев. Но машину они отвергали только в 4% случаев. Другими словами, технике они доверяли больше.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Фишинговые атаки: как противостоять интернет-мошенничеству Фишинговые атаки: как противостоять интернет-мошенничеству

Как защитить себя от злоумышленников в интернете?

Популярная механика
Рассказ Людмилы Петрушевской «Черное пальто. Страшные случаи» Рассказ Людмилы Петрушевской «Черное пальто. Страшные случаи»

Рассказ «Фонарик» Людмилы Петрушевской

СНОБ
«Мы должны быть уверены, что не отравим людей». Как изменилась жизнь рестораторов после введения обязательной маркировки продуктов «Мы должны быть уверены, что не отравим людей». Как изменилась жизнь рестораторов после введения обязательной маркировки продуктов

Доля фальсифицированных продуктов на российском рынке достигает 20%

СНОБ
Механические колебания иона увидели в оптический микроскоп Механические колебания иона увидели в оптический микроскоп

Физики смогли увидеть распределение иона иттербия в пространстве

N+1
Цифровой детокс: когда он становится необходимостью? Цифровой детокс: когда он становится необходимостью?

Почему нам нужно порой отказываться от Интернета?

Psychologies
Можно, только осторожно: 5 правил, которые помогут есть сладости и не толстеть Можно, только осторожно: 5 правил, которые помогут есть сладости и не толстеть

Памятка для тех, кто любит сладкое и не планирует от него отказываться

Cosmopolitan
Это вам Niletto Это вам Niletto

Что лежит в основе расцвета сил и возможностей Niletto?

Men’s Health
Думали, что это дисбактериоз: у меня нашли рак и удалили часть кишечника Думали, что это дисбактериоз: у меня нашли рак и удалили часть кишечника

Наша героиня о том, как ей удалось вылечить рак желудочно-кишечного тракта

Cosmopolitan
Как китайский автопром завоевывает мировой рынок электромобилей и вытесняет Tesla Как китайский автопром завоевывает мировой рынок электромобилей и вытесняет Tesla

Насколько сильны китайские компаний и представляют ли они угрозу для Ford?

Forbes
Что такое либидо и как его повысить Что такое либидо и как его повысить

Вокруг понятия либидо почти всегда возникают споры

РБК
7 самых красивых и необычных подземных сооружений 7 самых красивых и необычных подземных сооружений

Подборка удивительных объектов подземной инфраструктуры

Популярная механика
Семейная сказка по-новосибирски Семейная сказка по-новосибирски

Как работает новый центр социально-педагогической поддержки Большой перемены

ПУСК
Огонь-пожар: как избавиться от изжоги, если терпеть больше нет сил Огонь-пожар: как избавиться от изжоги, если терпеть больше нет сил

От чего возникает изжога и как с ней можно бороться

Playboy
Все слышали про белый шум. Но что такое розовый, коричневый и синий шум? Все слышали про белый шум. Но что такое розовый, коричневый и синий шум?

Сколько цветов шума существует в мире и как они действуют на людей?

Популярная механика
Недетские страсти: как сложились судьбы знаменитых вундеркиндов Недетские страсти: как сложились судьбы знаменитых вундеркиндов

Вундеркинды, которым не помогли их одаренность и таланты

VOICE
Планетологи отказались от модели экстремального испарения океана магмы на молодом Меркурии Планетологи отказались от модели экстремального испарения океана магмы на молодом Меркурии

Модель эволюции магматического океана и первичной атмосферы на молодом Меркурии

N+1
Не просто цифра: как сказывается на отношениях разница в возрасте Не просто цифра: как сказывается на отношениях разница в возрасте

Разница в возрасте — это просто число, на которое можно не обращать внимания?

Cosmopolitan
Как продавать «спящим клиентам» Как продавать «спящим клиентам»

Почему клиенты «засыпают» и как с ними выстроить эффективную коммуникацию

Inc.
Обыкновенная генетта Обыкновенная генетта

Генетта — это редкость, экзотика. Чего это она вдруг «обыкновенная»?

Weekend
От ремонта трофейных телевизоров до Уолл-стрит и спасения Навального. Жизнь благотворителя Дмитрия Зимина От ремонта трофейных телевизоров до Уолл-стрит и спасения Навального. Жизнь благотворителя Дмитрия Зимина

Дмитрий Зимин, бизнесмен и меценат, основатель сотового оператора «ВымпелКом»

СНОБ
7 самых неудачливых героев фильмов ужасов 7 самых неудачливых героев фильмов ужасов

У этих героев каждый день — пятница, 13-е

Maxim
Живые и искусственные ёлки: какие вредят экологии больше и что с ними делать после Нового года Живые и искусственные ёлки: какие вредят экологии больше и что с ними делать после Нового года

Как сказываются на окружающей среде искусственные и живые ёлки?

VC.RU
5 фильмов, которые работают как детокс 5 фильмов, которые работают как детокс

Освежающие фильмы о любви к жизни

GQ
Войны, драки и теракты: пять самых скандальных поводов для рекламы Войны, драки и теракты: пять самых скандальных поводов для рекламы

Реклама: дерзкая, провокационная — и далеко не всегда этичная

Playboy
Шесть «что будет, если...?», на которые должен ответить стартап Шесть «что будет, если...?», на которые должен ответить стартап

Что будет, если проект не зайдет или кончатся деньги?

Inc.
10 животных с суперспособностями 10 животных с суперспособностями

При взгляде на способности некоторых животных нам остаётся только завидовать

Популярная механика
Неореализм Неореализм

Киану Ривз, человек в Голливуде, который нравится абсолютно всем

Esquire
От «Фаворитки» до «Железной леди»: байопики о женщинах в политике От «Фаворитки» до «Железной леди»: байопики о женщинах в политике

Женщин в политике меньшинство, и биографических фильмов о них тоже немного

Forbes
Как пить дать: антипохмельный гид Esquire Как пить дать: антипохмельный гид Esquire

Как свести негативное влияние алкоголя на здоровье к минимуму?

Esquire
Астрономы нашли горячую экзопланету - год на ней длится всего 8 часов Астрономы нашли горячую экзопланету - год на ней длится всего 8 часов

Одна из самых легких среди почти 5 000 известных сегодня экзопланет

Популярная механика
Открыть в приложении