Можно ли сегодня защитить себя от компьютерных ошибок?

ТехИнсайдерHi-Tech

Компьютеры всегда совершали ошибки, ИИ делает ситуацию критически опасной, но закон на стороне машин

Владимир Губайловский

Почтовое отделение UK Post Office

Более 20 лет назад консориум Fujitsu поставил главному почтовому ведовству Великобритании UK Post Office систему автоматизации рабочих мест почтовых работников по всей стране. Только через много лет стало известно, что система постоянно ошибалась, и многие почтовые работники были оштрафованы, заключены в тюрьму, а несколько человек покончили с собой. Почему это происходило так долго? И можно ли сегодня защитить себя от компьютерных ошибок?

Эта трагическая история связана с «презумпцией безошибочности компьютеров». Но компьютеры могут ошибаться, а в системах ИИ некоторый процент ошибок заложен изначально. И пока непонятно как защитить человека от «железного» обвинителя.

Более 20 лет назад японский технологический консориум Fujitsu создал ИТ-систему бухгалтерского учета для Почты Великобритании (UK Post Office). Система получила название Horizon. Рабочие места этой системы были установлены по всей стране. Часто это были небольшие почтовые отделения, которые собирали и доставляли письма и посылки. 20 лет назад это был крупнейший гражданский ИТ-проект в Европе.

Система Horizon была далеко небезупречной. Она делала ошибки. Но руководители Почты Великобритании верили ей, а не людям.

Многих работников почтовых отделений обвинили в краже или фальсификации отчетности. От них требовали возместить убытки и угрожали судом. В период с 2000 по 2014 год более 700 человек были привлечены к ответственности, и в среднем 30 человек каждый год в период с 2000 по 2014 заключали под стражу. Люди теряли недвижимость, накопления, репутацию. Некоторые из безвинно пострадавших покончили жизнь самоубийством.

Многие подробности этой трагедии до сих пор неизвестны. Но самым вопиющим стало заявление Fujitsu, что компания знала об ошибках в системе примерно в то время, когда поставила Horizon Почте Великобритании в 1999 году.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Режьте на здоровье: как выбрать правильный секатор для сада Режьте на здоровье: как выбрать правильный секатор для сада

Как выбрать механический секатор, чтобы меньше вреда растениям

ТехИнсайдер
Софи Эллис-Бекстор ярко сияет после «Солтберна», но все равно заслужила большего. Вот ее история Софи Эллис-Бекстор ярко сияет после «Солтберна», но все равно заслужила большего. Вот ее история

Софи Эллис-Бекстор — самая недооцененной поп-певица поколения начала 2000-х

Правила жизни
От мела к модели: как искусственный интеллект перестраивает образовательный процесс От мела к модели: как искусственный интеллект перестраивает образовательный процесс

ИИ вошел во многие сферы жизни. Не избежала его и система образования

ТехИнсайдер
Найти точки соприкосновения, усомниться, сделать часть работы заранее: как писать холодные письма, чтобы их читали Найти точки соприкосновения, усомниться, сделать часть работы заранее: как писать холодные письма, чтобы их читали

Отрывок из книги «Пиши, сокращай 2025» Максима Ильяхова и Людмилы Сарычевой

VC.RU
Мозг, исцеляющий себя Мозг, исцеляющий себя

Реальные истории людей, которые победили болезни и преобразили свой мозг

kiozk originals
Ложноскорпионы прокатились на скорпионах Ложноскорпионы прокатились на скорпионах

Ложноскорпионы расселяются между муравьиными колониями с помощью скорпионов

N+1
Режим «не беспокоить» Режим «не беспокоить»

Как наблюдать за водными животными, не мешая и не тревожа их?

Y Magazine
Как развивалось протезирование Как развивалось протезирование

От протезов из дерева и телячьей кожи до современных биомеханических моделей

Наука и техника
Тайны межзвездного пространства (блуждающие планеты и коричневые карлики) Тайны межзвездного пространства (блуждающие планеты и коричневые карлики)

В пространстве Млечного Пути астрономы нашли триллионы «блуждающих» планет

Зеркало Мира
Геоархеологи отследили миграцию исчезнувшего нильского рукава на восток от плато Гиза Геоархеологи отследили миграцию исчезнувшего нильского рукава на восток от плато Гиза

Как изменялcя гидрологический режим в районе «озера Хуфу»

N+1
Всё есть, а не радует Всё есть, а не радует

Почему в эпоху доступности всего мы перестали получать удовольствие

Лиза
Установка соединения Установка соединения

Зачем сращивать мозг с компьютером?

Вокруг света
Встраиваемая бытовая техника: за и против Встраиваемая бытовая техника: за и против

Встраиваемая техника выглядит современно и красиво, но стоит ли она своих денег?

CHIP
Терпение и труд… Все, я устал: четыре урока концентрации от гениев, вдохновивших весь мир Терпение и труд… Все, я устал: четыре урока концентрации от гениев, вдохновивших весь мир

Как побороть прокрастинацию: учимся у Толстого, Эйнштейна и Франклина

Правила жизни
Американский супергерой: лучшие фильмы с Кристианом Бейлом Американский супергерой: лучшие фильмы с Кристианом Бейлом

Главные работы из фильмографии Кристиана Бейла в хронологическом порядке

Правила жизни
Сладкая проблема: как отстирать шоколад с одежды Сладкая проблема: как отстирать шоколад с одежды

Знать, как отстирать шоколад с белой или цветной одежды, следует каждому

ТехИнсайдер
Партнёры-соперники Партнёры-соперники

Как ни готовься к войне, она практически всегда наступает внезапно

Дилетант
Математика в аграрной практике Математика в аграрной практике

Как разработать стратегию цепочек поставок в АПК

Агроинвестор
9 самых красивых самолетов: не читать перед началом серьезной работы 9 самых красивых самолетов: не читать перед началом серьезной работы

Самые необычные дизайны самолетов

ТехИнсайдер
Как избежать цифровой усталости и выгорания после работы: 5 способов Как избежать цифровой усталости и выгорания после работы: 5 способов

Снизить негативное воздействие экранов компьютеров, телефонов не так уж и сложно

РБК
Секреты бальзамирования: как ученым удалось сохранить тело Ленина на целый век Секреты бальзамирования: как ученым удалось сохранить тело Ленина на целый век

Бальзамирование тела Ленина — величайший эксперимент в анатомии и биохимии

ТехИнсайдер
Как товарищ Берия вышел из доверия Как товарищ Берия вышел из доверия

Дело Берии обсуждалось на особом пленуме ЦК с 2 по 7 июля 1953 года

Дилетант
С каким шампанским ел ананасы Игорь Северянин С каким шампанским ел ананасы Игорь Северянин

Как появилось стихотворение Игоря Северянина про «ананасы в шампанском»

СНОБ
Почему солнечные электростанции зашли горнякам, фермерам… и насекомым Почему солнечные электростанции зашли горнякам, фермерам… и насекомым

У фотоэлектрических панелей обнаружились сразу три новых преимущества

ТехИнсайдер
Простые самодельные игрушки для кошек, перед которыми не устоит ни один питомец Простые самодельные игрушки для кошек, перед которыми не устоит ни один питомец

Как сделать дразнилки для котенка своими руками из подручных средств

ТехИнсайдер
Ныть — хорошо и полезно: 5 аргументов «за» Ныть — хорошо и полезно: 5 аргументов «за»

Почему всем нам иногда нужно хорошенько поныть?

Psychologies
Ранние браки, запрет на аборты и проституция: как живут женщины в Нигерии Ранние браки, запрет на аборты и проституция: как живут женщины в Нигерии

Нигерия: страна, в которой беспрецедентно нарушаются права женщин

Forbes
Польза горчичного масла: как его принимать и не навредить организму Польза горчичного масла: как его принимать и не навредить организму

Горчичное масло — популярный и полезный ингредиент азиатской кухни

РБК
Пацан говорит: Леон Кемстач — о «Слове пацана», уличных драках и первом гонораре Пацан говорит: Леон Кемстач — о «Слове пацана», уличных драках и первом гонораре

Леон Кемстач: на кого ориентируется в профессии, на что потратил первый гонорар?

Правила жизни
Аральская описательная экспедиция А. И. Бутакова и ее штатный художник Аральская описательная экспедиция А. И. Бутакова и ее штатный художник

Опальный поэт Шевченко и его служба в экипаже «Константина»

Наука и техника
Открыть в приложении