Чтобы разработать этику для роботов, необходимо разобраться в человеческой

ForbesHi-Tech

Совесть для робота: как действуют алгоритмы добра и зла

Исследователи, разрабатывающие кибернетическую этику, обнаружили, что для начала им придется разобраться в этике обычной — человеческой.

Алексей Алексенко

1-gettyimages-468882914.jpg__1538733833__56882.jpg
Фото Akio Kon / Bloomberg via Getty Images

Стремительное развитие технологий ставит человечество лицом к лицу с вопросами, которые еще недавно казались совершенно абстрактными. Вот, например, проблема вагонетки. Тяжелая вагонетка мчится по рельсам прямо к той точке, где на ее пути лежат пять человек (возможно, детей) — связанные и совершенно беспомощные перед неотвратимой угрозой. Вы можете перевести стрелку и пустить вагонетку по другому пути. Но там к рельсам тоже привязан человек — правда, всего один. Должны ли вы перевести стрелку? С одной стороны, пять невинных жизней явно больше, чем одна. С другой — кто вы такой, чтобы решать судьбу человека, которому, если бы не вы, вообще ничто бы не угрожало?

Ситуация щекотливая, но, к счастью, достаточно искусственная: не так уж часто нам поручают переводить железнодорожные стрелки, да еще и со столь серьезными последствиями. Когда в 1967 английский философ Филиппа Фут формулировала свой «парадокс вагонетки», никто не подозревал, что спустя всего полвека подобные вопросы придется решать не философам и богословам, а программистам.

Дело в том, что очень похожая задача возникает при проектировании автомобилей-беспилотников. На дороге возникла критическая ситуация, под угрозой жизни нескольких пешеходов, и спасти их можно только одним способом: направив беспилотный автомобиль в столб. При этом, скорее всего, пострадает пассажир. И снова пять пешеходов — это больше, чем один пассажир, и снова вопрос: кто дал бездушной машине право решать судьбы людей? Может, пассажир и сам бы мог рискнуть жизнью ради спасения ближнего, но своему беспилотнику он такой выбор доверить не готов. Он и так уже доверил ему собственную жизнь, и не для того, чтобы машина распоряжалась ею по своему усмотрению.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Не от хорошей жизни»: как поливоркинг стал трендом и чем он опасен «Не от хорошей жизни»: как поливоркинг стал трендом и чем он опасен

Как поливоркерам сохранить здоровье и продуктивность

Forbes
Ловушка для лентяев. Почему простые рецепты в инвестициях не работают Ловушка для лентяев. Почему простые рецепты в инвестициях не работают

Чтобы упростить жизнь инвесторов, компании придумали десятки «ленивых портфелей»

Forbes
Дорого и сложно: что тормозит внедрение ИИ в медицину Дорого и сложно: что тормозит внедрение ИИ в медицину

Почему внедрение инноваций в медицине происходит так медленно?

Forbes
Рядом с ней мне спокойно и легко» Рядом с ней мне спокойно и легко»

10 лет назад Дмитрий и Татьяна Дюжевы сыграли свадьбу

OK!
Как начать переписку с девушкой, чтобы она точно ответила Как начать переписку с девушкой, чтобы она точно ответила

Лучшие заменители опостылевшего всем «Привет! Как дела?»

Maxim
Расстрел великих князей Расстрел великих князей

История расстрела великих князей — внуков Николая I

Дилетант
Роковой штырь: как строитель потерял часть мозга и стал плохим парнем Роковой штырь: как строитель потерял часть мозга и стал плохим парнем

Несчастный случай с рабочим Финеасом Гейджем привел к неожиданным последствиям

Maxim
«Травма отвержения: как я от нее избавилась» «Травма отвержения: как я от нее избавилась»

Можно ли побороть страх одиночества самостоятельно?

Psychologies
Зачем вы травите? Зачем вы травите?

Токсичные отношения — не синоним эмоционального насилия

Glamour
Хватит выбрасывать деньги. Чем заменить неэффективные тимбилдинги Хватит выбрасывать деньги. Чем заменить неэффективные тимбилдинги

Совместное решение проблем сближает сотрудников больше, чем веревочные курсы

Forbes
Одна страна — одно кино: 17 лучших фильмов со всего мира Одна страна — одно кино: 17 лучших фильмов со всего мира

Одна страна — одно кино: 17 лучших фильмов со всего мира

Playboy
Просит бури Просит бури

Саша Лусс — о новой работе, съемках в Москве и ролях мечты

Vogue
Растратчики: что происходит с громкими ICO и собранными деньгами Растратчики: что происходит с громкими ICO и собранными деньгами

Казалось, что криптовалюты изменят мировую экономику, почему этого не случилось?

Forbes
Мощь инстаграма Мощь инстаграма

Как бывший рестлер стал самым высокооплачиваемым актером Голливуда

Forbes
Пять главных неприятностей ОСАГО Пять главных неприятностей ОСАГО

Пять главных неприятностей ОСАГО

АвтоМир
Джордж Оруэлл Джордж Оруэлл

Оруэлл написал двадцать томов прозы, публицистики и даже стихов

Дилетант
Что надеть ранней осенью: советы дизайнера Что надеть ранней осенью: советы дизайнера

Что надеть ранней осенью: советы дизайнера

Cosmopolitan
Греческие каникулы Греческие каникулы

Интервью с Сергеем Лазаревым о том, как он провел отпуск в Греции с сыном

OK!
Приморье: как краснеет край России Приморье: как краснеет край России

Провал единоросса и отмена результатов выборов. Что дальше

Русский репортер
Таблетка от любви: можно ли вылечить чувства химией Таблетка от любви: можно ли вылечить чувства химией

Моральные аспекты применения препаратов «от любви»

Популярная механика
Америка на распутье. Пора ли инвесторам уходить с фондового рынка США Америка на распутье. Пора ли инвесторам уходить с фондового рынка США

Как поступить с американскими акциями частному инвестору?

Forbes
«Каждый день наслаждаюсь беременностью!» «Каждый день наслаждаюсь беременностью!»

В жизни певицы Нюши за год с небольшим произошли кардинальные перемены

OK!
В порядке важности В порядке важности

Саша Филипенко — об эпохе безразличия

GQ
Дмитрий Нагиев Дмитрий Нагиев

Дмитрий Нагиев о том, как не растерять талант драматический и человеческий

Psychologies
Бал душевного спокойствия активного пенсионера Бал душевного спокойствия активного пенсионера

Петр Щедровицкий о жизни, методологии и предельных мирах

Русский репортер
По всем фронтам. Как остаться профессионалом во время декрета По всем фронтам. Как остаться профессионалом во время декрета

После декретного отпуска женщина оказывается между двух огней

Forbes
План идеальной жизни: где надо родиться, кем работать, когда жениться и далее по списку План идеальной жизни: где надо родиться, кем работать, когда жениться и далее по списку

Самый безукоризненный сценарий жизни. Бери и пользуйся!

Maxim
Алкоголизм — дело семейное. 10 советов выпивающим родителям Алкоголизм — дело семейное. 10 советов выпивающим родителям

О влиянии семейных традиций на алкоголизацию подростков

СНОБ
Сырьевое проклятие: почему курс рубля падает вопреки дорожающей нефти Сырьевое проклятие: почему курс рубля падает вопреки дорожающей нефти

Рубль, как и многие валюты развивающихся рынков, попал в ловушку девальвации

Forbes
Личность формируется еще до рождения? Личность формируется еще до рождения?

Правда ли, что черты характера и вкусы формируются задолго до появления на свет

Psychologies
Открыть в приложении