Почему человек доверяет компьютеру и к чему это может привести?

VC.RUHi-Tech

Доверие на автопилоте: почему человек верит машине больше, чем людям, — и не напрасно ли

Перевод издания «Идеономика».

Полина Лааксо

1280
Кадр из фильма Спайка Джонса «Она» 2013 года

Журналисты BBC рассказали, почему человек склонен доверять компьютеру и к чему это может привести. Материал перевело издание «Идеономика».

Многие люди заявляют, что скептически относятся к автономным технологиям, но кажется, мы, наоборот, слишком доверяем машинам.

Когда рейс 447 Air France полетел брюхом в Атлантический океан со скоростью почти 300 км в час, пилоту Пьеру-Седрику Бонену пришлось бороться со штурвалом. Он взял управление на себя, когда автопилот внезапно отключился, по-видимому, из-за оледенения на корпусе. Ситуация требовала ручного вмешательства.

Другие пилоты, не предполагавшие такого сценария, не могли стабилизировать самолёт. Их сбивали с толку сообщения и сигналы тревоги от бортового компьютера — всё выглядело так, будто двигатель не заглох, хотя на самом деле ситуация была критической.

Все 216 пассажиров и 12 членов экипажа погибли в тот день, 1 июня 2009 года. У таких несчастных случаев с участием людей и техники обычно существует несколько факторов или причин. Но аналитики частично обвиняют в трагедии рейса 447 чрезмерное доверие к технологиям.

Лётный экипаж надеялся на автопилот и на то, что информационные системы самолёта предоставляют точную информацию. И это далеко не единственный инцидент, в котором излишнее доверие к технологиям привело к гибели людей.

1280
Wikipedia

Это хорошо изученное явление, известное как предвзятость автоматизации, которая иногда также приводит к потере бдительности — то есть люди меньше способны замечать неисправности, когда всем управляет компьютер. Удивительно то, что на эту склонность «слишком доверять» машинам, возможно, напрямую повлияли миллионы лет эволюции.

«Излишнее доверие к технологиям — это ошибка ошеломляющего масштаба», — пишет Патрисия Хардре из Университета Оклахомы. Она утверждает, что людям обычно не хватает способности судить о том, насколько надежна конкретная технология. Мы иногда отказываемся от помощи компьютера в ситуациях, когда это принесёт нам пользу, или слепо доверяем ему тогда, когда он в конечном счёте вредит человеку и угрожает его существованию.

Поведение одного из наших ближайших родственников, шимпанзе, указывает на то, почему мы так плохо умеем оценивать надежность техники. Возможно, причина в том, что мы вместо этого оцениваем других представителей своего вида.

В недавнем эксперименте исследователи создали устройство, позволяющее шимпанзе в заповеднике в Кении получать еду, потянув за верёвку. Одна верёвка предлагала основную награду в виде кусочка банана. Но был второй вариант — более крупное вознаграждение в виде двух кусочков банана и ломтика яблока, которые можно было получить либо с помощью машины, либо от другого шимпанзе.

Однако иногда машина не выдавала угощение, а другой шимпанзе предпочитал не делиться. Таким образом, хотя этот способ потенциально обещал большую награду, его использование предполагало некую неопределённость. А участники-шимпанзе оказывались либо в социальных, либо в несоциальных условиях. Им нужно было довериться либо машине, либо другому шимпанзе, чтобы иметь шанс получить большее вознаграждение.

Исследование показало, что приматы реже выбирали способ, когда на другом конце верёвки оказывался другой шимпанзе, и отказывались участвовать в социальном эксперименте в 12% случаев. Но машину они отвергали только в 4% случаев. Другими словами, технике они доверяли больше.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Самые популярные янгтаймеры в России Самые популярные янгтаймеры в России

Подборка самых популярны янгтаймеров — автомобилей 70–90-х годов прошлого века

Популярная механика
Автор особого назначения Автор особого назначения

Мария Степанова о романах Татьяны Устиновой

Weekend
Выкидыш из-за скандала: охранник роддома выгнал истекающую кровью беременную Выкидыш из-за скандала: охранник роддома выгнал истекающую кровью беременную

Уроженка Обнинска Калужской области потеряла ребенка на 4-й неделе беременности

Cosmopolitan
Ихтиозавры достигли размеров современных китов всего за два с половиной миллиона лет Ихтиозавры достигли размеров современных китов всего за два с половиной миллиона лет

Сколько лет потребовалось ихтиозаврам, чтобы превратить в гигантов?

N+1
Тягучий “Дом Gucci”.  Почему у Ридли Скотта получился вульгарный и, возможно, женоненавистнический фильм? Тягучий “Дом Gucci”.  Почему у Ридли Скотта получился вульгарный и, возможно, женоненавистнический фильм?

Новая драма Ридли Скотта получилась очень костюмной, но не совсем драматичной

Esquire
18 любимых фильмов Киану Ривза — от «Большого Лебовски» до «Заводного апельсина» 18 любимых фильмов Киану Ривза — от «Большого Лебовски» до «Заводного апельсина»

Киану Ривз поделился своим списком любимых фильмов в интервью

Esquire
Сергей Рулев: «Я не диктую публике вкусы, это слишком высокомерно» Сергей Рулев: «Я не диктую публике вкусы, это слишком высокомерно»

Сергей Рулев — бренд-шеф-кондитер по разработке концептуальных десертов

Bones
Археологи нашли в Армении погребение двух женщин-воинов Археологи нашли в Армении погребение двух женщин-воинов

Археологи нашли погребение всадниц-лучниц

N+1
Уилл Смит: Will. Честная автобиография о превращении простого мальчишки из Филадельфии в кинозвезду Уилл Смит: Will. Честная автобиография о превращении простого мальчишки из Филадельфии в кинозвезду

Отрывок из автобиографии Уилла Смита «Will» — о первых шагах к славе

СНОБ
Анна Виленская Анна Виленская

Анна Виленская — автор нескучных лекций о музыке

Собака.ru
Глубоководный карьер: как добыть алмазы со дна океана Глубоководный карьер: как добыть алмазы со дна океана

«Погружение» горнодобывающих компаний на океанское дно

Популярная механика
Мембрана с сосудообразными порами оказалась эффективным добытчиком урана из воды Мембрана с сосудообразными порами оказалась эффективным добытчиком урана из воды

Китайские химики разработали мембрану для экстракции урана из воды

N+1
Портрет новой российской науки: Майя Каленова — химик-технолог, которая плавит радиоактивный металл Портрет новой российской науки: Майя Каленова — химик-технолог, которая плавит радиоактивный металл

Химик-технолог Майя Каленова: будущее за атомной энергетикой

Esquire
Птицы-дуплогнездники отпугнули захватчиков фальшивыми остатками трапезы хищника Птицы-дуплогнездники отпугнули захватчиков фальшивыми остатками трапезы хищника

Как птицы-дуплогнездники выигрывают конкуренцию за дупла

N+1
Схватки в такси, прыжок в сугроб и Схватки в такси, прыжок в сугроб и

В Новый год каждый старается порадовать близких людей чем-то особенным

Playboy
Ты теперь полярник: инструкция к поездке мечты по Кольскому полуострову Ты теперь полярник: инструкция к поездке мечты по Кольскому полуострову

Полуостров Рыбачий – рай для фотографа: фактуры-текстуры просто завораживают

Playboy
Очень плохие девочки: как женские банды сукэбан держали в страхе Японию Очень плохие девочки: как женские банды сукэбан держали в страхе Японию

Кто такие сукэбан, откуда они взялись и почему держали в страхе всю Японию?

Cosmopolitan
Как Фрэнсис Хауген показала миру темную сторону Facebook и попала в рейтинг Forbes Как Фрэнсис Хауген показала миру темную сторону Facebook и попала в рейтинг Forbes

Бывшая сотрудница Facebook обнародовала внутренние документы компании

Forbes
50000 лет назад в Африке возникла сеть обмена бусинами из страусиных яиц 50000 лет назад в Африке возникла сеть обмена бусинами из страусиных яиц

Контакты между жителями Восточной и Южной Африки оборвались 19 тысяч лет назад

N+1
«Муж заразил меня ВИЧ»: я научилась жить с диагнозом и совершенно счастлива «Муж заразил меня ВИЧ»: я научилась жить с диагнозом и совершенно счастлива

История Анны Тарасовой: как справиться с осознанием, что у тебя ВИЧ

Cosmopolitan
Последнее Рождество: 3 жутких убийства, совершенные в канун праздника Последнее Рождество: 3 жутких убийства, совершенные в канун праздника

К сожалению, далеко не всякая рождественская ночь оборачивается сказкой

Cosmopolitan
90 м² 90 м²

Квартира в старом фонде, в которую добавили цвета и естественного света

AD
Серебряный дом: как девелоперы реагируют на демографические тренды Серебряный дом: как девелоперы реагируют на демографические тренды

Глобальный тренд в сторону «серебряной экономики» становится заметен и в России

Forbes
Прототип мобильного приложения: что это и для чего нужен Прототип мобильного приложения: что это и для чего нужен

Прототип — самый простой, быстрый и наглядный способ объяснить идею

Популярная механика
Maruv Maruv

Певица рассказала о желании получить Нобелевскую премию и полететь в космос

ЖАРА Magazine
Новый поворот: как создать карту желаний, которая работает Новый поворот: как создать карту желаний, которая работает

10 правил, которые надо соблюдать, когда составляешь свою карту желаний

Cosmopolitan
Ядерное движение оказалось важным для фотоионизации молекулы водорода Ядерное движение оказалось важным для фотоионизации молекулы водорода

Физики вынуждены отказаться от знаменитого приближения Борна-Оппенгеймера

N+1
Запретная тема. Умерла Джоан Дидион Запретная тема. Умерла Джоан Дидион

Биографическое эссе в память о Джоан Дидион

СНОБ
Больше, чем транспорт: как велосипед превратился в идейный символ Больше, чем транспорт: как велосипед превратился в идейный символ

Как люди развивали велосипед и превращали его в символ своих идей

Популярная механика
Водителей штрафуют, когда они просто стоят в пробке. Подробности и фото Водителей штрафуют, когда они просто стоят в пробке. Подробности и фото

Нередко появляются жалобы на штрафы за так называемое «стояние в пробке»

РБК
Открыть в приложении