Чтобы разработать этику для роботов, необходимо разобраться в человеческой

ForbesHi-Tech

Совесть для робота: как действуют алгоритмы добра и зла

Исследователи, разрабатывающие кибернетическую этику, обнаружили, что для начала им придется разобраться в этике обычной — человеческой.

Алексей Алексенко

1-gettyimages-468882914.jpg__1538733833__56882.jpg
Фото Akio Kon / Bloomberg via Getty Images

Стремительное развитие технологий ставит человечество лицом к лицу с вопросами, которые еще недавно казались совершенно абстрактными. Вот, например, проблема вагонетки. Тяжелая вагонетка мчится по рельсам прямо к той точке, где на ее пути лежат пять человек (возможно, детей) — связанные и совершенно беспомощные перед неотвратимой угрозой. Вы можете перевести стрелку и пустить вагонетку по другому пути. Но там к рельсам тоже привязан человек — правда, всего один. Должны ли вы перевести стрелку? С одной стороны, пять невинных жизней явно больше, чем одна. С другой — кто вы такой, чтобы решать судьбу человека, которому, если бы не вы, вообще ничто бы не угрожало?

Ситуация щекотливая, но, к счастью, достаточно искусственная: не так уж часто нам поручают переводить железнодорожные стрелки, да еще и со столь серьезными последствиями. Когда в 1967 английский философ Филиппа Фут формулировала свой «парадокс вагонетки», никто не подозревал, что спустя всего полвека подобные вопросы придется решать не философам и богословам, а программистам.

Дело в том, что очень похожая задача возникает при проектировании автомобилей-беспилотников. На дороге возникла критическая ситуация, под угрозой жизни нескольких пешеходов, и спасти их можно только одним способом: направив беспилотный автомобиль в столб. При этом, скорее всего, пострадает пассажир. И снова пять пешеходов — это больше, чем один пассажир, и снова вопрос: кто дал бездушной машине право решать судьбы людей? Может, пассажир и сам бы мог рискнуть жизнью ради спасения ближнего, но своему беспилотнику он такой выбор доверить не готов. Он и так уже доверил ему собственную жизнь, и не для того, чтобы машина распоряжалась ею по своему усмотрению.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Кто создал хиты Алиши Киз и Coldplay: пять женщин, добившихся успеха в звукорежиссуре Кто создал хиты Алиши Киз и Coldplay: пять женщин, добившихся успеха в звукорежиссуре

Женщины-звукорежиссеры и трудности, которые им пришлось преодолеть

Forbes
Разумные пределы Разумные пределы

Напишет ли Елизавета Боярская о беременности официальный пост в «Инстаграм»?

Домашний Очаг
Как искусственный интеллект меняет бьюти-индустрию Как искусственный интеллект меняет бьюти-индустрию

Как технологии ИИ ежедневно помогают бьюти-мастерам в работе?

Inc.
Самые горячие косплеерши Comic Con Russia 2018: наш ответ Сан-Диего Самые горячие косплеерши Comic Con Russia 2018: наш ответ Сан-Диего

Тянос, Дэдпул на каблуках и кто только не!

Playboy
Психологический портрет: что такое дисморфофобия, или синдром Квазимодо Психологический портрет: что такое дисморфофобия, или синдром Квазимодо

Что нужно знать о дисморфофобии?

Forbes
Когда Бог силен в твоем теле Когда Бог силен в твоем теле

Суфизм: тайная мистика в сердце Чечни и Ингушетии

Русский репортер
Camicia rossa Camicia rossa

Фигура Джузеппе Гарибальди с трудом поддаётся определению

Дилетант
Смерть в Сети: 5 блогеров, убитых за свои посты Смерть в Сети: 5 блогеров, убитых за свои посты

Чем больше у блогера аудитория, тем выше риск, что найдутся и хейтеры

Cosmopolitan
Правила жизни Массимо Карреры Правила жизни Массимо Карреры

Правила жизни тренера «Спартака» Массимо Карреры

Esquire
Как требовать прибавку к зарплате, не прибегая к угрозам Как требовать прибавку к зарплате, не прибегая к угрозам

Осень — отличное время, чтобы попросить прибавку к зарплате

Maxim
Ретроспектива Эгона Шиле в Fondation Louis Vuitton Ретроспектива Эгона Шиле в Fondation Louis Vuitton

Рассказываем и показываем, как художник-провокатор повлиял на моду

Vogue
Напавшие из сборной. Чем закончится дебош Кокорина и Мамаева Напавшие из сборной. Чем закончится дебош Кокорина и Мамаева

Правоохранительные органы Москвы вызвали на допрос бывших игроков сборной России

Forbes
Елена Блиновская: «Быть счастливым – это означает брать ответственность на себя» Елена Блиновская: «Быть счастливым – это означает брать ответственность на себя»

Мотивационный спикер Елена Блиновская рассуждает о том как все успеть

Cosmopolitan
Воспоминания об Анне Харви Воспоминания об Анне Харви

Маша Федорова, Анита Гиговская и Карина Добротворская рассказывают об Анне Харви

Vogue
Я к вам пришел навеки поселиться Я к вам пришел навеки поселиться

Джулия Робертс сдает имение в аренду, потому что не может продать

StarHit
Флэш отдыхает! 9 допингов для бесконечной (почти) энергии Флэш отдыхает! 9 допингов для бесконечной (почти) энергии

Признайся, ты ведь немного завидуешь медведям?

Playboy
Intel Core i9-7960X: 16 ядер достаточно? Intel Core i9-7960X: 16 ядер достаточно?

Intel Core i9-7960X — представитель какого-то перевернутого мира

CHIP
Что делать, если вам надоело все время ходить в челси Что делать, если вам надоело все время ходить в челси

Смело надевайте зауженные брюки и черные высокие ботинки на шнуровке

GQ
Дети и трущобы. Правительство ужесточит контроль за маткапиталом Дети и трущобы. Правительство ужесточит контроль за маткапиталом

Дети и трущобы. Правительство ужесточит контроль за маткапиталом

Forbes
Рами Малек: Рами Малек:

Актер Рами Малек позирует Esquire в вещах осенних коллекций

Esquire
Игорь Верник: «Довожу себя и других до невменяемого состояния» Игорь Верник: «Довожу себя и других до невменяемого состояния»

Актеру и телеведущему Игорю Вернику 11 октября исполнится 55 лет!

StarHit
Подсмотрено в Instagram: 5 юбок, которые есть у всех блогеров Подсмотрено в Instagram: 5 юбок, которые есть у всех блогеров

Осенью (и зимой, к слову, тоже) не обойтись без стильной юбки

Cosmopolitan
Приехали: сеть кафе, где платят личными данными вместо денег, завоевывает мир Приехали: сеть кафе, где платят личными данными вместо денег, завоевывает мир

И тут слежка! Но все не так просто: они, может быть, еще и аферисты

Playboy
Актер Филипп Авдеев — о «Кислоте» и поколении молодых Актер Филипп Авдеев — о «Кислоте» и поколении молодых

Четвертого октября на экраны выходит фильм «Кислота»

Esquire
Счетная палата раскритиковала зоны экономических льгот Счетная палата раскритиковала зоны экономических льгот

Счетная палата выступила с очередной критикой особых экономических зон в России

Forbes
Jaguar XE SV Project 8 Jaguar XE SV Project 8

Jaguar XE SV Project 8

Quattroruote
Пенсии: чудеса минфиновской жадности Пенсии: чудеса минфиновской жадности

Непопулярную реформу приняли. Что дальше?

Русский репортер
Дело хозяйское Дело хозяйское

Марина Геворкян о принципах, которыми она руководствуется в работе и жизни

СНОБ
Власть в тумане. Цены на бензин взлетят, и рынок наводнит фальсификат Власть в тумане. Цены на бензин взлетят, и рынок наводнит фальсификат

Власть в тумане. Цены на бензин взлетят, и рынок наводнит фальсификат

Forbes
Три уровня финансовых отношений в паре Три уровня финансовых отношений в паре

Как разумно договариваться друг с другом в финансовых вопросах

Psychologies
Открыть в приложении