Искусственный интеллект и римское право
В бюрократическую процедуру необходимо вернуть обычное право, когда каждое решение бездушной системы находится под личной ответственностью конкретного чиновника. Такой правопорядок восстановит личные отношения между людьми в свете правды и справедливости
Мы часто слышим споры об искусственном интеллекте: он заменит человека, он лишит его свободы и идентичности, он воплотившееся зло или, наоборот, ИИ — порождение технического прогресса, ведущего людей в эпоху свободы и творчества. В обоих случаях ИИ становится некой самостоятельной сущностью.
Выражу мнение, отличное от обеих позиций. ИИ — это класс программных продуктов, в которых присутствует сложная нелинейная логика. Это всего лишь инструмент, созданный человеком, это «лопата», которая без человека не может ничего, а в руках человека может стать и добром, и злом. Лопатой можно копать, а можно убивать.
Но в чем опасность ИИ? Как ни странно, я вижу ее в тотальном насаждении античеловеческой западной практики развития римского права (то есть в усилении бюрократизации и обезличивании отношений между людьми), в искоренении еще существующих в незападных странах человеческих практик, подчиненных так называемому обычному праву, то есть правилам личного взаимодействия между людьми.
Давайте посмотрим на ИИ под углом «права». «Права» в самом корневом человеческом смысле этого слова: имею право, я прав.
Обычное право против римского
Вспомним гоголевского капитана Копейкина. Он столкнулся с бюрократией, которая действует по инструкции, в соответствии с собственной железной логикой, а не в соответствии с обычным правом, которое основано на справедливости и правде. И проиграл.
Как человек он не смог добиться правды. Ему пришлось превратиться в «духа отмщения».
Почему он проиграл, будучи человеком? Потому что столкнулся с римским правом — с расчеловеченной процедурой, с механизмом, в котором главная цель — бесперебойная логичная работа самого механизма.
Ни человеческая справедливость, ни правда не являются главной целью бюрократии и любых механистичных процедур, в том числе правовых. В любом вынесении решения через процедуру, через механизм мы сталкиваемся с возможностью для судящего, решающего спрятаться за механизм, за процедуру, за ИИ, в конце концов.
Что же делать? В обычном праве, которое изложено у разных народов в разных текстах — в «Русской правде», Второзаконии, «Салической правде» — устанавливается принцип справедливости: компенсация за нанесенный ущерб. Око за око, зуб за зуб. То есть ущерб, нанесенный пострадавшему, должен быть нанесен и причинившему ущерб.
Говорят, что Владимир Лефевр — диссидент-эмигрант, психолог и математик, написавший книгу «Алгебра совести», научил американцев, как обмануть советских руководителей.
Он разделял мир на две этические системы: западную — систему правил, и восточную — систему смыслов. По его совету западный мир, изменив своей этической системе, просто договорился «по понятиям» с восточным СССР о справедливых смыслах, например о гарантиях при демонтаже системы безопасности СССР в Восточной Европе. Но не подписал документы о правилах. В результате мы обижаемся на несправедливое расширение НАТО на восток, а Запад, теперь уже как бы вспомнив о своей этической системе, говорит, что нет никаких документов, фиксирующих правила.
Только, на мой взгляд, Лефевр был неправ в одном: всем людям — и на Востоке, и на Западе — свойственно искать справедливые и праведные смыслы. Это отражено в системах обычного права — что у восточных славян, что у западных франков.
Однако римское право, которое является порождением бюрократического государства (Римской империи) и противостоит этической системе обычного права, выстроило обезличенный механизм, в котором восстановление справедливости подменяется наказанием: наказывается само нарушение порядка, нарушение правил, установленных государством.
В обычном праве нет наказания, есть компенсаторный механизм: выколол глаз — почувствуй сам, как жить без глаза, украл яблоки — почувствуй сам, как жить без суммы, эквивалентной стоимости этих яблок. В нем отсутствует наказание тюрьмой или штрафом за нарушение предписанного механизма, но есть восстановление справедливости, «мирового» баланса — испытать на себе причиненное.
Позднее, в христианской традиции, тюрьма стала осмысляться не как наказание, а как возможность для исправления в изоляции от общества. Но сам принцип римского права тут ни при чем.
Подчинение западной модели организации общества всегда сопровождается внедрением западного правопорядка, выросшего из римского права, из слепого и бесчеловечного следования установленному порядку — dura lex, sed lex. Это римское выражение можно перевести как «черств закон, но это закон». Не в контексте неотвратимости или строгости наказания, а в том смысле, что римляне осознавали черствость и бесчеловечность бюрократического правопорядка, но считали, что в огромной империи лучше действовать по инструкции, а не искать справедливости.
Личные связи, личные пристрастия, личный опыт отторгаются западным миропорядком. Это называют коррупцией, конфликтом интересов, личной заинтересованностью. Бюрократические механизмы должны быть максимально обезличены с помощью аукционов, тендеров, камер, рейтингов.
И хотя это сильно вредит делу, но все равно внедряется до идиотизма страстно. Хотя в действительно важных случаях, когда нужен результат и нельзя допустить промах, правила обезличивания посылаются подальше, и в дело вступает личный опыт. Если б я был президентом, то окружил бы себя лично знакомыми и проверенными людьми. А как иначе доверять?
Под личную ответственность
России, как и многим незападным странам, чужды бесчеловечные бюрократические процедуры. Они не приживаются, искажаются, превращаются в карикатуру на западные институты.
Возможно, путь спасения от расчеловечивающего действия правовых бюрократизированных механизмов, частью которых все больше становятся процессы, управляемые ИИ, в том, чтобы ввести личную ответственность в среду бюрократии. Личную ответственность по принципу механизма восстановления справедливости в обычном праве: нанес ущерб — получи равный ущерб.
За каждым алгоритмом ИИ, за каждой бюрократической процедурой должна стоять конкретная личность чиновника, и ущерб, нанесенный последствиями применения этого алгоритма или процедуры, должен симметрично отразиться на карьере и благополучии чиновника.
Ведь в чем сила бюрократии, почему она засасывает и перемалывает личность любого человека? Сила бюрократии в обезличивании. Кто виноват в том, что тысячи штрафов за нарушения ПДД, зафиксированные камерами, автоматически списываются со счетов невиновных людей? Никто. Да, вы можете доказать в суде свою правоту, потратить силы, время, нервы, а вам вернут только списанные деньги.
Кто вернет? «Некто», «Оно» — безличное государство-никто.
А если бы ущерб вернул конкретный чиновник или группа чиновников, виновных в несправедливости и неправде, тогда скорость улучшения алгоритмов ИИ, бюрократических процедур, инструкций, их нацеленность на поиск справедливости и истины стремились бы к бесконечности.
Сейчас управленец спрятался за спину автоматических процедур. Впрочем, до сих пор каждое решение о наложении штрафа, зафиксированного камерой, подписывает конкретное лицо — майор или капитан. Понятно, что не лично ручкой десятки тысяч бумажек подписывает — ставится факсимильная или электронная подпись.
А сам майор или капитан ни во что не вникает, это невозможно при рассмотрении десятков тысяч случаев… Так об этом и речь, так не должно быть. Если бы выплачивал ущерб от несправедливости из собственного дохода, тогда бы и требовал справедливо организованной системы, был бы лично нацелен на исполнение правды.
Предвижу возражения христиан, которые для меня очень важны, так как и я христианин: где милость к виновным? Неужели мы вернем в правосудие дохристианский принцип око за око, зуб за зуб?
Отвечу так: не надо путать бюрократическое правосудие, порожденное Римской империей, и личную милость, к которой призывал Христос. Возможность личной милости допустимо оставить в правосудии. Например, пострадавший может простить и не взыскивать личный ущерб с причинившего.
Такой правопорядок восстановит личные отношения между людьми в свете правды и справедливости. Вернется личное измерение: я прав или я неправ, остальное не важно.
* Сооснователь проекта «Россия 2062», эксперт Госдумы РФ, радиоведущий.
Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl