Можно ли сегодня защитить себя от компьютерных ошибок?

ТехИнсайдерHi-Tech

Компьютеры всегда совершали ошибки, ИИ делает ситуацию критически опасной, но закон на стороне машин

Владимир Губайловский

Почтовое отделение UK Post Office

Более 20 лет назад консориум Fujitsu поставил главному почтовому ведовству Великобритании UK Post Office систему автоматизации рабочих мест почтовых работников по всей стране. Только через много лет стало известно, что система постоянно ошибалась, и многие почтовые работники были оштрафованы, заключены в тюрьму, а несколько человек покончили с собой. Почему это происходило так долго? И можно ли сегодня защитить себя от компьютерных ошибок?

Эта трагическая история связана с «презумпцией безошибочности компьютеров». Но компьютеры могут ошибаться, а в системах ИИ некоторый процент ошибок заложен изначально. И пока непонятно как защитить человека от «железного» обвинителя.

Более 20 лет назад японский технологический консориум Fujitsu создал ИТ-систему бухгалтерского учета для Почты Великобритании (UK Post Office). Система получила название Horizon. Рабочие места этой системы были установлены по всей стране. Часто это были небольшие почтовые отделения, которые собирали и доставляли письма и посылки. 20 лет назад это был крупнейший гражданский ИТ-проект в Европе.

Система Horizon была далеко небезупречной. Она делала ошибки. Но руководители Почты Великобритании верили ей, а не людям.

Многих работников почтовых отделений обвинили в краже или фальсификации отчетности. От них требовали возместить убытки и угрожали судом. В период с 2000 по 2014 год более 700 человек были привлечены к ответственности, и в среднем 30 человек каждый год в период с 2000 по 2014 заключали под стражу. Люди теряли недвижимость, накопления, репутацию. Некоторые из безвинно пострадавших покончили жизнь самоубийством.

Многие подробности этой трагедии до сих пор неизвестны. Но самым вопиющим стало заявление Fujitsu, что компания знала об ошибках в системе примерно в то время, когда поставила Horizon Почте Великобритании в 1999 году.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Лазеры решат проблему ядовитой пыли от автомобильных тормозов Лазеры решат проблему ядовитой пыли от автомобильных тормозов

Brembo сократил количество ядовитой пыли от тормозов в 5 раз

ТехИнсайдер
Борьба за равные права и против насилия: как живут современные женщины в Таиланде Борьба за равные права и против насилия: как живут современные женщины в Таиланде

Почему в Таиланде все громче звучат голоса фемактивисток

Forbes
«Осторожно, в небе металлолом» — Что делают со старыми авиалайнерами «Осторожно, в небе металлолом» — Что делают со старыми авиалайнерами

Почему пассажирские авиалайнеры так рано списывают?

ТехИнсайдер
Ныть — хорошо и полезно: 5 аргументов «за» Ныть — хорошо и полезно: 5 аргументов «за»

Почему всем нам иногда нужно хорошенько поныть?

Psychologies
Месть и немного любви: пять лучших фильмов этой весны о женщинах Месть и немного любви: пять лучших фильмов этой весны о женщинах

Рассказываем о пяти фильмах про женщин, которые стоит посмотреть

Forbes
Видеоигры провоцируют на жестокость в реальной жизни? Ученые дали ответ! Видеоигры провоцируют на жестокость в реальной жизни? Ученые дали ответ!

Играет ли насилие в видеоиграх какую-либо роль в эмпатии людей в реальности?

ТехИнсайдер
Все по-взрослому: как прошел тест-драйв китайских Jetour в снегах Карелии Все по-взрослому: как прошел тест-драйв китайских Jetour в снегах Карелии

Как ведут себя китайские кроссоверы Jetour в реальной жизни?

Forbes
Найденные в XIX веке ископаемые указали на каннибализм среди раннеюрских рыб Найденные в XIX веке ископаемые указали на каннибализм среди раннеюрских рыб

Неполовозрелые особи лучеперых рыб охотились на более мелких сородичей

N+1
Как лечат в центрах наркологической помощи: 5 основных этапов Как лечат в центрах наркологической помощи: 5 основных этапов

Психиатр-нарколог о том, какие именно методы борьбы с зависимостью существуют

Psychologies
5 универсальных причесок для фото на паспорт, которые подойдут для оформления документов как в 14, так и в 45 лет 5 универсальных причесок для фото на паспорт, которые подойдут для оформления документов как в 14, так и в 45 лет

Какую прическу сделать для фото на паспорт?

VOICE
7 главных ошибок при хранении продуктов в морозильной камере: их допускает каждый второй 7 главных ошибок при хранении продуктов в морозильной камере: их допускает каждый второй

Как хранить замороженные овощи и мясо, чтобы они не испортились?

ТехИнсайдер
«Не добегаешь 50 метров — штраф 500 долларов»: как выглядят самые жесткие тренировки «Не добегаешь 50 метров — штраф 500 долларов»: как выглядят самые жесткие тренировки

Чаще всего эти тренировки сравнивают с армейской подготовкой

Maxim
Топ-10 сериалов, которые помогут выучить английский язык Топ-10 сериалов, которые помогут выучить английский язык

Просмотр этих сериалов поможет здорово подтянуть уровень иностранного языка

ТехИнсайдер
Руки золотые Руки золотые

10 самых интересных и модных видов рукоделия

Лиза
«История переделывает души» «История переделывает души»

Как «Записные книжки» Гинзбург объясняют меняющееся время

Weekend
Когда возникает травма брошенности: 5 основных факторов Когда возникает травма брошенности: 5 основных факторов

Откуда берется травма брошенности и как от нее можно избавиться?

Psychologies
Как обрезать изображение в Фотошопе: инструменты на выбор Как обрезать изображение в Фотошопе: инструменты на выбор

Инструкция, как скадрировать объект на изображении в Photoshop

CHIP
Тонкая линия Тонкая линия

Как избавиться от келоидных рубцов

Лиза
Норвегия первой одобрила бурение морского дна для добычи полезных ископаемых. Морские экосистемы могут пострадать Норвегия первой одобрила бурение морского дна для добычи полезных ископаемых. Морские экосистемы могут пострадать

Норвегия — первая страна, разрешившая глубоководную добычу полезных ископаемых

ТехИнсайдер
«Тайна жизни: Как Розалинд Франклин, Джеймс Уотсон и Фрэнсис Крик открыли структуру ДНК» «Тайна жизни: Как Розалинд Франклин, Джеймс Уотсон и Фрэнсис Крик открыли структуру ДНК»

Противостояние двух подходов к определению молекулярной структуры

N+1
3 вопроса, которые не позволят плохим мыслям управлять вашим поведением 3 вопроса, которые не позволят плохим мыслям управлять вашим поведением

Как избавиться от навязчивых негативных мыслей?

Psychologies
«Солтберн»: почему фильм о классовой ненависти стал культурным феноменом «Солтберн»: почему фильм о классовой ненависти стал культурным феноменом

Почему и как «Солтберн» превратился в культурный феномен?

Forbes
4 причины чаще заниматься сексом 4 причины чаще заниматься сексом

Почему для здоровья важно регулярно заниматься сексом?

Psychologies
Рейтинг всех пяти поколений Jeep Cherokee. От худшего к лучшему Рейтинг всех пяти поколений Jeep Cherokee. От худшего к лучшему

В своё время, на пике популярности, Cherokee покорил сердца миллионов

4x4 Club
В жизни как в кино В жизни как в кино

7 ошибок Бриджит Джонс, которые ты совершаешь, даже не замечая

Лиза
Почему диеты не работают. 3 основные причины и советы по эффективному похудению Почему диеты не работают. 3 основные причины и советы по эффективному похудению

Если попытка похудеть не увенчалась успехом, попробуй скорректировать факторы

Лиза
Пары жуков сизифов эффективнее одиночек перенесли навозные шарики через препятствия Пары жуков сизифов эффективнее одиночек перенесли навозные шарики через препятствия

Перемещать навозный шарик вдвоем оказалось проще и быстрее

N+1
Визуализация целей: пошаговая инструкция для скептиков Визуализация целей: пошаговая инструкция для скептиков

Как человеку с рациональным мышлением эффективно визуализировать свои цели?

Psychologies
«Айлин»: ретро-триллер о нереализованных амбициях с Энн Хэтэуэй и Томасин Маккензи «Айлин»: ретро-триллер о нереализованных амбициях с Энн Хэтэуэй и Томасин Маккензи

Почему «Айлин» нельзя назвать успешной экранизацией?

Forbes
Секреты бальзамирования: как ученым удалось сохранить тело Ленина на целый век Секреты бальзамирования: как ученым удалось сохранить тело Ленина на целый век

Бальзамирование тела Ленина — величайший эксперимент в анатомии и биохимии

ТехИнсайдер
Открыть в приложении