Чтобы разработать этику для роботов, необходимо разобраться в человеческой

ForbesHi-Tech

Совесть для робота: как действуют алгоритмы добра и зла

Исследователи, разрабатывающие кибернетическую этику, обнаружили, что для начала им придется разобраться в этике обычной — человеческой.

Алексей Алексенко

1-gettyimages-468882914.jpg__1538733833__56882.jpg
Фото Akio Kon / Bloomberg via Getty Images

Стремительное развитие технологий ставит человечество лицом к лицу с вопросами, которые еще недавно казались совершенно абстрактными. Вот, например, проблема вагонетки. Тяжелая вагонетка мчится по рельсам прямо к той точке, где на ее пути лежат пять человек (возможно, детей) — связанные и совершенно беспомощные перед неотвратимой угрозой. Вы можете перевести стрелку и пустить вагонетку по другому пути. Но там к рельсам тоже привязан человек — правда, всего один. Должны ли вы перевести стрелку? С одной стороны, пять невинных жизней явно больше, чем одна. С другой — кто вы такой, чтобы решать судьбу человека, которому, если бы не вы, вообще ничто бы не угрожало?

Ситуация щекотливая, но, к счастью, достаточно искусственная: не так уж часто нам поручают переводить железнодорожные стрелки, да еще и со столь серьезными последствиями. Когда в 1967 английский философ Филиппа Фут формулировала свой «парадокс вагонетки», никто не подозревал, что спустя всего полвека подобные вопросы придется решать не философам и богословам, а программистам.

Дело в том, что очень похожая задача возникает при проектировании автомобилей-беспилотников. На дороге возникла критическая ситуация, под угрозой жизни нескольких пешеходов, и спасти их можно только одним способом: направив беспилотный автомобиль в столб. При этом, скорее всего, пострадает пассажир. И снова пять пешеходов — это больше, чем один пассажир, и снова вопрос: кто дал бездушной машине право решать судьбы людей? Может, пассажир и сам бы мог рискнуть жизнью ради спасения ближнего, но своему беспилотнику он такой выбор доверить не готов. Он и так уже доверил ему собственную жизнь, и не для того, чтобы машина распоряжалась ею по своему усмотрению.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

В Госдуму внесли законопроект о запрете выгула опасных собак пьяными людьми и детьми В Госдуму внесли законопроект о запрете выгула опасных собак пьяными людьми и детьми

Госдума хочет внести изменения в нормы об ответственном обращении с животными

Forbes
Как увеличить количество полезных часов Как увеличить количество полезных часов

Как найти 60 дополнительных часов в месяц

Psychologies
Умные ногти: что такое NFC-маникюр и как его сделать Умные ногти: что такое NFC-маникюр и как его сделать

Как сделать свои ногти умными? Встроить в них NFC-чип!

VOICE
Это реально: как студент-лузер в 24 года заработал $5 млрд, построив империю Это реально: как студент-лузер в 24 года заработал $5 млрд, построив империю

Как Ритеш Агарвала заработал миллиарды с помощью приложения для бронирования

Playboy
11 способов становиться немного умнее каждый день 11 способов становиться немного умнее каждый день

Интеллект, как и тело, требует правильного питания и регулярных тренировок

Psychologies
Татьяна Маругова: «Наш кукольный домик рухнул!» Татьяна Маругова: «Наш кукольный домик рухнул!»

Рассказ о том, как ради любовницы олигарх хочет уничтожить жену и сына

StarHit
Тимур Бекмамбетов Тимур Бекмамбетов

Правила жизни режиссера Тимура Бекмамбетова

Esquire
«Меня преследуют неудачи»: как изменить негативный сценарий «Меня преследуют неудачи»: как изменить негативный сценарий

Почему у одних все в жизни протекает спокойно, а у других вечно какие-то ЧП?

Psychologies
10 самых плохих российских фильмов. Издание второе, исправленное и дополненное. 10 самых плохих российских фильмов. Издание второе, исправленное и дополненное.

10 самых плохих российских фильмов

Maxim
Что говорить на собеседовании — правду или то, что от тебя хотят услышать? Что говорить на собеседовании — правду или то, что от тебя хотят услышать?

Сделай работу своей мечты работой своей реальности!

Maxim
Франческо Растрелли. Гений барокко Франческо Растрелли. Гений барокко

Для Растрелли перемены на русском троне не предвещали ничего хорошего

Караван историй
«Он просто широко улыбнулся»: появилась посмертная работа Стивена Хокинга «Он просто широко улыбнулся»: появилась посмертная работа Стивена Хокинга

Работа была закончена за несколько дней до смерти ученого Стивена Хокинга

Playboy
Volvo XC40 Volvo XC40

Volvo XC40. Компактный кроссовер из Швеции

Quattroruote
Футболист, который попал: хроника скандалов Александра Кокорина Футболист, который попал: хроника скандалов Александра Кокорина

Вождение в нетрезвом виде, вечеринки с реками шампанского...

Cosmopolitan
Приехали: сеть кафе, где платят личными данными вместо денег, завоевывает мир Приехали: сеть кафе, где платят личными данными вместо денег, завоевывает мир

И тут слежка! Но все не так просто: они, может быть, еще и аферисты

Playboy
Игра по-взрослому Игра по-взрослому

Платформа Roblox зарабатывает в год сотни миллионов на детской аудитории

Forbes
Пограничное состояние России Пограничное состояние России

Отсутствие опоры в период взросления развивает склонность к черно-белой оценке

СНОБ
Оживший кошмар: как Tesla убивает мировой автопром Оживший кошмар: как Tesla убивает мировой автопром

Быстрый рост Tesla может привести к безработице всемирного масштаба

Forbes
Совет да лайфхак Совет да лайфхак

Лучшие полезные советы от авторов журнала MAXIM

Maxim
Хмель санкций. Минпромторг выступил за продажу пива по ночам Хмель санкций. Минпромторг выступил за продажу пива по ночам

Минпромторг выступил за продажу пива по ночам

Forbes
Вилка для жадных Вилка для жадных

Что ждет российских водителей, а главное – когда?

АвтоМир
Последний шанс турецкого султана Последний шанс турецкого султана

Война завершилась новой триумфальной победой русского оружия

Дилетант
Кукольный театр: как манипулировать своими сотрудниками Кукольный театр: как манипулировать своими сотрудниками

Вредные советы по управлению сотрудниками, от которых выигрывают все

Forbes
Google представила флагман Pixel 3 Google представила флагман Pixel 3

Журналисты знали заранее о новинках: флагмане Pixel 3, планшете и умном экране

Maxim
Легкое касание Легкое касание

Гостиничный бизнес итальянского семейства Полито

СНОБ
Ирена Понарошку: Ирена Понарошку:

Ирена Понарошку была звездой молодежи в нулевых, а теперь ведет блог в Instagram

Cosmopolitan
Мискузи! 7 вещей, без которых реально не обойтись в путешествии Мискузи! 7 вещей, без которых реально не обойтись в путешествии

Список реально крутых гаджетов, которые точно пригодятся в путешествии

Playboy
Настоящая Настоящая

Сериал "Американская история ужасов" основан на реальных событиях: это страшно

Cosmopolitan
Приключения «Мультикубика» Приключения «Мультикубика»

Как коробка из пластика с мультфильмами внутри пытается стать серьезным бизнесом

РБК
Великий надзиратель. Чем хорош контролирующий лидер Великий надзиратель. Чем хорош контролирующий лидер

На надзирающих лидеров можно положиться, когда нужен идеальный результат

Forbes
Открыть в приложении