Можно ли сегодня защитить себя от компьютерных ошибок?

ТехИнсайдерHi-Tech

Компьютеры всегда совершали ошибки, ИИ делает ситуацию критически опасной, но закон на стороне машин

Владимир Губайловский

Почтовое отделение UK Post Office

Более 20 лет назад консориум Fujitsu поставил главному почтовому ведовству Великобритании UK Post Office систему автоматизации рабочих мест почтовых работников по всей стране. Только через много лет стало известно, что система постоянно ошибалась, и многие почтовые работники были оштрафованы, заключены в тюрьму, а несколько человек покончили с собой. Почему это происходило так долго? И можно ли сегодня защитить себя от компьютерных ошибок?

Эта трагическая история связана с «презумпцией безошибочности компьютеров». Но компьютеры могут ошибаться, а в системах ИИ некоторый процент ошибок заложен изначально. И пока непонятно как защитить человека от «железного» обвинителя.

Более 20 лет назад японский технологический консориум Fujitsu создал ИТ-систему бухгалтерского учета для Почты Великобритании (UK Post Office). Система получила название Horizon. Рабочие места этой системы были установлены по всей стране. Часто это были небольшие почтовые отделения, которые собирали и доставляли письма и посылки. 20 лет назад это был крупнейший гражданский ИТ-проект в Европе.

Система Horizon была далеко небезупречной. Она делала ошибки. Но руководители Почты Великобритании верили ей, а не людям.

Многих работников почтовых отделений обвинили в краже или фальсификации отчетности. От них требовали возместить убытки и угрожали судом. В период с 2000 по 2014 год более 700 человек были привлечены к ответственности, и в среднем 30 человек каждый год в период с 2000 по 2014 заключали под стражу. Люди теряли недвижимость, накопления, репутацию. Некоторые из безвинно пострадавших покончили жизнь самоубийством.

Многие подробности этой трагедии до сих пор неизвестны. Но самым вопиющим стало заявление Fujitsu, что компания знала об ошибках в системе примерно в то время, когда поставила Horizon Почте Великобритании в 1999 году.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Что скрывает от нас подземка: 10 интересных фактов о московском метро Что скрывает от нас подземка: 10 интересных фактов о московском метро

Московское метро — незаменимый транспорт, про который мы не все знаем

ТехИнсайдер
Узнайте, как можно заниматься спортом с помощью дивана! Простые советы от эксперта Узнайте, как можно заниматься спортом с помощью дивана! Простые советы от эксперта

Можно ли добиться желаемой фигуры, не вставая с дивана?

ТехИнсайдер
Какие ценности есть у ИИ? Ученые изучили Claude и рассказали интересные факты! Какие ценности есть у ИИ? Ученые изучили Claude и рассказали интересные факты!

Как ИИ выражает свои «принципы» в диалогах с людьми

ТехИнсайдер
Как лечат в центрах наркологической помощи: 5 основных этапов Как лечат в центрах наркологической помощи: 5 основных этапов

Психиатр-нарколог о том, какие именно методы борьбы с зависимостью существуют

Psychologies
Девушки и яйца: как стильные и вкусные завтраки приносят сотни миллионов Девушки и яйца: как стильные и вкусные завтраки приносят сотни миллионов

Как две девушки сделали бизнес на блюдах с яйцами?

Forbes
«Электрическое полотенце»: как появилась сушилка для рук «Электрическое полотенце»: как появилась сушилка для рук

Даже у такой незамысловатой технологии, как сушилка для рук, есть своя история

ТехИнсайдер
ТОП-7 лучших пикапов: характеристики и фото ТОП-7 лучших пикапов: характеристики и фото

Лучшие новые пикапы на рынке России

РБК
Установка соединения Установка соединения

Зачем сращивать мозг с компьютером?

Вокруг света
Я — сноб: художник Анатолий Akue Я — сноб: художник Анатолий Akue

Художник Анатолий Akue — о рисовании без цели и собачьей шерсти

СНОБ
Кристально чисто: 7 водоемов с самой прозрачной водой в мире Кристально чисто: 7 водоемов с самой прозрачной водой в мире

Даже на глубине в несколько десятков метров можно четко увидеть донья этих озер

ТехИнсайдер
И у взрослых бывает И у взрослых бывает

Симптомы кори у взрослых и как быстро ее вылечить

Лиза
Не верьте в легкий путь к счастью: правда об инфоцыганах и «каше в головах» Не верьте в легкий путь к счастью: правда об инфоцыганах и «каше в головах»

Спрос рождает предложение: почему инфоцыган так много?

Psychologies
Как разморозить двухкамерный холодильник: инструкция по шагам Как разморозить двухкамерный холодильник: инструкция по шагам

Почему нужно периодически размораживать холодильник?

CHIP
«Время максимального научного драйва». Океанолог Александр Осадчиев — о работе в Арктике «Время максимального научного драйва». Океанолог Александр Осадчиев — о работе в Арктике

Океанолог Александр Осадчиев — об устройстве научно-исследовательского судна

СНОБ
Соль замещенного циклопентадиенильного катиона оказалась стабильна при комнатной температуре Соль замещенного циклопентадиенильного катиона оказалась стабильна при комнатной температуре

Ученые синтезировали соль замещенного циклопентадиенильного катиона

N+1
Что такое резонатор в машине, для чего нужен и как устроен Что такое резонатор в машине, для чего нужен и как устроен

Все о резонаторе: где стоит, для чего нужен, можно ли починить

РБК
Как замедлить старение волос: 5 ошибок в укладке и уходе, которые допускает большинство женщин 50+ Как замедлить старение волос: 5 ошибок в укладке и уходе, которые допускает большинство женщин 50+

Как с возрастом нужно изменить уход за волосами?

VOICE
Служебный роман: что делать, если вы влюбились в коллегу Служебный роман: что делать, если вы влюбились в коллегу

Что необходимо учитывать, вступая в отношения на работе?

Psychologies
Как приучить ребенка к труду: 3 идеи, которые помогут в воспитании Как приучить ребенка к труду: 3 идеи, которые помогут в воспитании

Как передать ребенку удовольствие от достижения цели и чувство долга?

Psychologies
Ты просто космос: как выстроить отношения в паре с помощью коммуникационной модели астронавтов NASA Ты просто космос: как выстроить отношения в паре с помощью коммуникационной модели астронавтов NASA

Как применить «космическую» методику в неочевидной сфере — любовных отношениях

Правила жизни
Кот переборол свою застенчивость благодаря заботливой собаке Кот переборол свою застенчивость благодаря заботливой собаке

История одной пушистой дружбы

ТехИнсайдер
5 лайфхаков с сухим шампунем, которые точно вам пригодятся — он способен на многое! 5 лайфхаков с сухим шампунем, которые точно вам пригодятся — он способен на многое!

Сухой шампунь можно использовать и в быту!

ТехИнсайдер
5 вещей, которые не нужно делать после расставания 5 вещей, которые не нужно делать после расставания

Каких импульсивных поступков стоит избегать после расставания?

Psychologies
Польза горчичного масла: как его принимать и не навредить организму Польза горчичного масла: как его принимать и не навредить организму

Горчичное масло — популярный и полезный ингредиент азиатской кухни

РБК
Интригующие non-fiction новинки зимы: книги, которые прокачают мозг Интригующие non-fiction новинки зимы: книги, которые прокачают мозг

Зима — не время впадать в спячку и ждать до теплых дней

ТехИнсайдер
Почему нельзя полностью исключать сахар из рациона Почему нельзя полностью исключать сахар из рациона

Натуральным подсластителям иногда придают «ореол здоровья». Но так ли это?

ТехИнсайдер
Что такое гибридный цвет волос и как он помогает маскировать появление седины Что такое гибридный цвет волос и как он помогает маскировать появление седины

Как скрыть серебряные пряди в общем объеме волос?

VOICE
С каким шампанским ел ананасы Игорь Северянин С каким шампанским ел ананасы Игорь Северянин

Как появилось стихотворение Игоря Северянина про «ананасы в шампанском»

СНОБ
8 вещей, которые не стоит себе позволять, если женат 8 вещей, которые не стоит себе позволять, если женат

Некоторые нюансы не стоит упускать из виду, чтобы не испортить отношения с женой

Maxim
Человек-сканер Человек-сканер

Профайлер: чем он занимается, сколько зарабатывает и как им стать

Лиза
Открыть в приложении