Можно ли сегодня защитить себя от компьютерных ошибок?

ТехИнсайдерHi-Tech

Компьютеры всегда совершали ошибки, ИИ делает ситуацию критически опасной, но закон на стороне машин

Владимир Губайловский

Почтовое отделение UK Post Office

Более 20 лет назад консориум Fujitsu поставил главному почтовому ведовству Великобритании UK Post Office систему автоматизации рабочих мест почтовых работников по всей стране. Только через много лет стало известно, что система постоянно ошибалась, и многие почтовые работники были оштрафованы, заключены в тюрьму, а несколько человек покончили с собой. Почему это происходило так долго? И можно ли сегодня защитить себя от компьютерных ошибок?

Эта трагическая история связана с «презумпцией безошибочности компьютеров». Но компьютеры могут ошибаться, а в системах ИИ некоторый процент ошибок заложен изначально. И пока непонятно как защитить человека от «железного» обвинителя.

Более 20 лет назад японский технологический консориум Fujitsu создал ИТ-систему бухгалтерского учета для Почты Великобритании (UK Post Office). Система получила название Horizon. Рабочие места этой системы были установлены по всей стране. Часто это были небольшие почтовые отделения, которые собирали и доставляли письма и посылки. 20 лет назад это был крупнейший гражданский ИТ-проект в Европе.

Система Horizon была далеко небезупречной. Она делала ошибки. Но руководители Почты Великобритании верили ей, а не людям.

Многих работников почтовых отделений обвинили в краже или фальсификации отчетности. От них требовали возместить убытки и угрожали судом. В период с 2000 по 2014 год более 700 человек были привлечены к ответственности, и в среднем 30 человек каждый год в период с 2000 по 2014 заключали под стражу. Люди теряли недвижимость, накопления, репутацию. Некоторые из безвинно пострадавших покончили жизнь самоубийством.

Многие подробности этой трагедии до сих пор неизвестны. Но самым вопиющим стало заявление Fujitsu, что компания знала об ошибках в системе примерно в то время, когда поставила Horizon Почте Великобритании в 1999 году.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Кладбища кораблей: три самых опасных моря на планете Кладбища кораблей: три самых опасных моря на планете

Штормы и смертельные течения — воды каких морей особенно коварны

ТехИнсайдер
Когда возникает травма брошенности: 5 основных факторов Когда возникает травма брошенности: 5 основных факторов

Откуда берется травма брошенности и как от нее можно избавиться?

Psychologies
Почему нельзя сдавать пауэрбанк в багаж Почему нельзя сдавать пауэрбанк в багаж

Что может случиться, если сдать power bank в багаж самолета?

CHIP
Что такое разум? Что такое разум?

Как разум связан с интеллектом и преобразованием среды?

Наука и техника
Ошибка выжившего: как Москва искажает представление о счастье и бесконечно производит зависть Ошибка выжившего: как Москва искажает представление о счастье и бесконечно производит зависть

Как Москва сделала потребление культом и за сколько счастье можно купить

Правила жизни
Ночной кошмар Australian Open: почему матчи завершаются под утро и что с этим делать Ночной кошмар Australian Open: почему матчи завершаются под утро и что с этим делать

Почему внезапно время в теннисе стало проблемой?

Forbes
9 правил здоровых отношений 9 правил здоровых отношений

В чем секрет долгих и крепких отношений?

Psychologies
«Что происходит потом»: каким получился первый ромком, где Мег Райан стала режиссером «Что происходит потом»: каким получился первый ромком, где Мег Райан стала режиссером

«Что происходит потом» — романтическая комедия о двух бывших возлюбленных

Forbes
Как снимать крутые селфи: выбираем монопод или селфи-палку Как снимать крутые селфи: выбираем монопод или селфи-палку

До сих пор не знаете, чем отличается монопод от селфи-палки?

CHIP
«Финансовое напряжение» оказалось самым пагубным видом стресса для здоровья «Финансовое напряжение» оказалось самым пагубным видом стресса для здоровья

Хронический стресс может нарушить биологический обмен и привести к заболеванию

ТехИнсайдер
В 2000-летних останках из Бразилии нашли ДНК бледной трепонемы В 2000-летних останках из Бразилии нашли ДНК бледной трепонемы

Ученые исследовали останки древних людей из памятника Жаботикаба-II

N+1
Как «серийные убийцы» кошек во Франции становятся символами социальных проблем Как «серийные убийцы» кошек во Франции становятся символами социальных проблем

Великое кошачье побоище — часть французской культуры

Forbes
Блумерсы, Коко Шанель и «Работница»: как и когда женщины стали носить брюки Блумерсы, Коко Шанель и «Работница»: как и когда женщины стали носить брюки

Как и когда у представительниц женского пола появилась возможность носить брюки

ТехИнсайдер
Модный аксессуар: для чего мужчины высшего общества носили широкие воротники Модный аксессуар: для чего мужчины высшего общества носили широкие воротники

Почему европейцы носили широкие воротники на ежедневной основе?

ТехИнсайдер
Что делать, если ты чувствуешь себя одинокой: 7 полезных советов Что делать, если ты чувствуешь себя одинокой: 7 полезных советов

Хочешь знать, как справиться с чувством одиночества?

VOICE
Блокировка дифференциала: чтобы ехать увереннее и быстрее Блокировка дифференциала: чтобы ехать увереннее и быстрее

Как работает блокировка дифференциала

РБК
От Желтого малыша до Супермена и Бэтмена: краткая история комиксов От Желтого малыша до Супермена и Бэтмена: краткая история комиксов

Как появились комиксы и какие события повлияли на их развитие

ТехИнсайдер
Как корректно попросить у партнера справку о ЗППП? 5 вопросов и ответов сексолога Как корректно попросить у партнера справку о ЗППП? 5 вопросов и ответов сексолога

Как корректно поговорить на деликатную тему ЗППП?

Psychologies
Режиссер Шон Дуркин рассказал о своем новом фильме «Стальная хватка» — истории пути семьи великих чемпионов Режиссер Шон Дуркин рассказал о своем новом фильме «Стальная хватка» — истории пути семьи великих чемпионов

Их жизнь — изнурительные тренировки перед грядущим сражением

Maxim
Дыра на месте Дыра на месте

Что снимки телескопа показали в галактике M87 спустя год после первых наблюдений

N+1
Как лечат в центрах наркологической помощи: 5 основных этапов Как лечат в центрах наркологической помощи: 5 основных этапов

Психиатр-нарколог о том, какие именно методы борьбы с зависимостью существуют

Psychologies
Кипит суп – котелок друг, стук-бряк – котелок враг! Кипит суп – котелок друг, стук-бряк – котелок враг!

Думаете, котел – банальная штука? Думаете, он только для похода и рыбалки?

Зеркало Мира
Успеть за 15 минут: какие места на кухне достаточно убрать, чтобы она выглядела чистой Успеть за 15 минут: какие места на кухне достаточно убрать, чтобы она выглядела чистой

Гости прибудут с минуты на минуту? Вот как быстро убрать кухню!

VOICE
Нужно ли вашей машине малозольное масло: простой ответ на сложный вопрос Нужно ли вашей машине малозольное масло: простой ответ на сложный вопрос

Зачем придумали малозольные масла, в чем их минусы и плюсы?

ТехИнсайдер
«Да все вы одинаковые!»: откуда берется мужская обида на женщин «Да все вы одинаковые!»: откуда берется мужская обида на женщин

Кто и как наносит мужчинам обиду на женщин?

Psychologies
Как воспитывать «обычного» ребенка рядом с вундеркиндом Как воспитывать «обычного» ребенка рядом с вундеркиндом

Проблема воспитания одаренных детей — тема множества дискуссий

СНОБ
12 худших фильмов-комиксов последних лет от плохого до самого гадкого 12 худших фильмов-комиксов последних лет от плохого до самого гадкого

Рассматриваем самые большие косяки фильмов-комиксов

Maxim
Тест Роршаха | The Rorschach Test: Тест Роршаха | The Rorschach Test:

О роли знаний и практиках управления ими в филантропических организациях

Позитивные изменения
Правила жизни Аркадия Райкина Правила жизни Аркадия Райкина

Артист эстрады, сатирик, умер 17 декабря 1987 года в возрасте 76 лет в Москве

Правила жизни
«Я думала – это весна, а это оттепель» «Я думала – это весна, а это оттепель»

Для молодежи сегодняшнего дня 60-е годы прошлого века – такая седая старина!..

Зеркало Мира
Открыть в приложении