Чтобы разработать этику для роботов, необходимо разобраться в человеческой

ForbesHi-Tech

Совесть для робота: как действуют алгоритмы добра и зла

Исследователи, разрабатывающие кибернетическую этику, обнаружили, что для начала им придется разобраться в этике обычной — человеческой.

Алексей Алексенко

1-gettyimages-468882914.jpg__1538733833__56882.jpg
Фото Akio Kon / Bloomberg via Getty Images

Стремительное развитие технологий ставит человечество лицом к лицу с вопросами, которые еще недавно казались совершенно абстрактными. Вот, например, проблема вагонетки. Тяжелая вагонетка мчится по рельсам прямо к той точке, где на ее пути лежат пять человек (возможно, детей) — связанные и совершенно беспомощные перед неотвратимой угрозой. Вы можете перевести стрелку и пустить вагонетку по другому пути. Но там к рельсам тоже привязан человек — правда, всего один. Должны ли вы перевести стрелку? С одной стороны, пять невинных жизней явно больше, чем одна. С другой — кто вы такой, чтобы решать судьбу человека, которому, если бы не вы, вообще ничто бы не угрожало?

Ситуация щекотливая, но, к счастью, достаточно искусственная: не так уж часто нам поручают переводить железнодорожные стрелки, да еще и со столь серьезными последствиями. Когда в 1967 английский философ Филиппа Фут формулировала свой «парадокс вагонетки», никто не подозревал, что спустя всего полвека подобные вопросы придется решать не философам и богословам, а программистам.

Дело в том, что очень похожая задача возникает при проектировании автомобилей-беспилотников. На дороге возникла критическая ситуация, под угрозой жизни нескольких пешеходов, и спасти их можно только одним способом: направив беспилотный автомобиль в столб. При этом, скорее всего, пострадает пассажир. И снова пять пешеходов — это больше, чем один пассажир, и снова вопрос: кто дал бездушной машине право решать судьбы людей? Может, пассажир и сам бы мог рискнуть жизнью ради спасения ближнего, но своему беспилотнику он такой выбор доверить не готов. Он и так уже доверил ему собственную жизнь, и не для того, чтобы машина распоряжалась ею по своему усмотрению.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как работает институт многоженства и с чем сталкиваются женщины в таких семьях Как работает институт многоженства и с чем сталкиваются женщины в таких семьях

Почему женщины соглашаются становиться вторыми женами и какие риски несут

Forbes
Как создавалось свадебное платье Alexander McQueen Как создавалось свадебное платье Alexander McQueen

История любимой вещи Сары Бертон из коллекции весна-лето 2019

Vogue
Цифровой сценарист: как ИИ создает иллюзию свободы выбора Цифровой сценарист: как ИИ создает иллюзию свободы выбора

Как научиться распознавать технологические манипуляции

Forbes
Уходи красиво Уходи красиво

Как победитель «Замуж за Бузову» обманул Ольгу

StarHit
Эмоциональный интеллект Эмоциональный интеллект

Новое представление о том, что значит быть «умным»

kiozk originals
Чао, Белла! Чао, Белла!

Модель и инфлюенсер Барбара Палвин рассказала о том, что лежит в ее косметичке

Grazia
Руками не машут: останутся ли Кокорин и Мамаев без работы Руками не машут: останутся ли Кокорин и Мамаев без работы

Александра Кокорина и Павла Мамаева могут пожизненно отстранить от футбола

Forbes
У компьютеров есть глаза: как выбрать веб-камеру? У компьютеров есть глаза: как выбрать веб-камеру?

У компьютеров есть глаза: как выбрать веб-камеру?

CHIP
Если бы Россия была чуть справедливее Если бы Россия была чуть справедливее

Дух, причины и молитвы ингушского протеста

Русский репортер
Призраки замка Нейдпат Призраки замка Нейдпат

«Вокруг света» поехал в Шотландию, чтобы поохотиться на нечистую силу

Вокруг света
В отличие от «Венома», груминг Тома Харди не вызывает вопросов В отличие от «Венома», груминг Тома Харди не вызывает вопросов

Рассказываем, какие из приемов груминга Тома Харди стоит взять на вооружение

GQ
Как прийти в состояние потока Как прийти в состояние потока

Все мы хотим заниматься любимым делом и стремимся попасть в состояние потока

Psychologies
Игорь Горский: Свои среди чужих. Что происходит с российскими инвесторами в Силиконовой долине Игорь Горский: Свои среди чужих. Что происходит с российскими инвесторами в Силиконовой долине

Российские инвесторы и стартаперы в Силиконовой долине не чувствуют ухудшений

СНОБ
Jaguar I-Pace Jaguar I-Pace

Jaguar I-Pace. Марка решилась на борьбу за достойное место в электропремиуме

Quattroruote
В прокате «Ничего хорошего в отеле “Эль-Рояль”» — фильм, в котором почти нет ничего плохого В прокате «Ничего хорошего в отеле “Эль-Рояль”» — фильм, в котором почти нет ничего плохого

В фильме «Ничего хорошего в отеле “Эль-Рояль”» все получилось очень хорошо

Esquire
Адские деньги: как еврейские арт-дилеры спасали от нацистов наследие Эгона Шиле Адские деньги: как еврейские арт-дилеры спасали от нацистов наследие Эгона Шиле

100 лет со дня смерти австрийского художника Эгона Шиле

Forbes
Сколько протеина в яйцах? Факты от диетологов и лучший в мире рецепт Сколько протеина в яйцах? Факты от диетологов и лучший в мире рецепт

Яйца — отличный источник белка, но сколько вы его из них получаете?

Playboy
Вторая половина жизни: как наполнить ее смыслом и счастьем Вторая половина жизни: как наполнить ее смыслом и счастьем

Как сделать счастливой и насыщенной зрелую пору нашей жизни

Psychologies
«Границы на карте мира условны» «Границы на карте мира условны»

Ладислав Бубнар — яркий пример того, как талант может в изменить жизненный путь

OK!
Дом, в котором я живу Дом, в котором я живу

К телу, в котором обитает наша личность, мы иногда относимся очень странно

Psychologies
В Крым на машине В Крым на машине

В Крым на машине

АвтоМир
Перекрестки Миллера Перекрестки Миллера

Эзра Миллер рассказал про аутсайдеров, Джуда Лоу и прелести животноводства

Cosmopolitan
12 вещей, которые помогут создать настоящее хюгге холодным осенним вечером 12 вещей, которые помогут создать настоящее хюгге холодным осенним вечером

12 вещей, которые помогут создать настоящее хюгге холодным осенним вечером

Cosmopolitan
Арестованный миллиардер Магомедов разбогател после продажи акций НМТП Арестованный миллиардер Магомедов разбогател после продажи акций НМТП

После объявления о сделке котировки порта резко подскочили

Forbes
«Хьюстон, у нас проблемы»: почему NASA теряет космические аппараты «Хьюстон, у нас проблемы»: почему NASA теряет космические аппараты

Космические неудачи преследуют не только «Роскосмос»

Forbes
Комсомольский комсомолец Комсомольский комсомолец

Уголок желтой прессы

Maxim
Личное место силы Личное место силы

Преподаватели йоги об особенном энергетическом пространстве — своём доме

Yoga Journal
Пограничное состояние России Пограничное состояние России

Отсутствие опоры в период взросления развивает склонность к черно-белой оценке

СНОБ
Невозможно отказать! 6 ну очень романтичных предложений руки и сердца Невозможно отказать! 6 ну очень романтичных предложений руки и сердца

Очень романтичные историй о том, как британцы предлагали руку и сердце

Cosmopolitan
Кошка на пути домой Кошка на пути домой

Кошка на пути домой. От совершенного хищника к совершенному домашнему питомцу

Популярная механика
Открыть в приложении