О трудностях обучения роботов

VC.RUHi-Tech

Бить за чизбургер — плохо, бить чизбургером — приемлемо: как учёные обучают искусственный интеллект этическим нормам

Учёные обучили ИИ-бота нормам морали, составив для него учебник на основе философских сабреддитов. Теперь робот знает, что нельзя убивать медведя, чтобы порадовать ребёнка, и не стоит включать блендер в три часа ночи. О проекте и трудностях обучения — в пересказе IEEE Spectrum.

Полина Лааксо

1280
Bold Expert

Технологии искусственного интеллекта всё чаще используют для принятия важных решений, пишет IEEE Spectrum: например, когда нужно определить, какой срок лишения свободы назначить преступнику или кто в первую очередь должен получить социальную помощь.

В этих и многих других вопросах, считают учёные, ИИ должен отталкиваться от нравственных и моральных норм. И базовые принципы, которым нужно обучать роботов, сформулировал ещё в 1942 году писатель и биохимик Айзек Азимов в научно-фантастическом рассказе «Хоровод»:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы это сделал кто-то другой.
  2. Он обязан выполнять приказы человека, если только те не противоречат первому пункту.
  3. И должен защищать себя до тех пор, пока это не идёт вразрез с первым и вторым положениями.

Общеизвестные заповеди вроде «не убей» кажутся очевидными и легко применимыми в теории, но в некоторых ситуациях человек может ими пренебречь — например, при самообороне.

Поэтому разработчики ИИ-бота Delphi, который должен принимать более осознанные с точки зрения морали выводы, решили отойти от теоретических аксиом, согласно которым «убивать — всегда плохо», а значит делать это ни при каких условиях нельзя.

Вместо этого мы обратились к дескриптивной этике — той, что изучает реально практикуемые в повседневных ситуациях нормы. Ронан Ле Бра, соавтор исследования

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Вопрос дня: сможет ли Илон Маск нарисовать свое лицо на поверхности Луны Вопрос дня: сможет ли Илон Маск нарисовать свое лицо на поверхности Луны

Портрет Илона Маска на Луне. Как вам такое?

Популярная механика
Тизнаос: самодельные испанские броневики времен Гражданской войны Тизнаос: самодельные испанские броневики времен Гражданской войны

Тизнаос — алмаз самодельных броневиков Испании

Популярная механика
Самые смертельные пандемии от доисторических времен до XXI века Самые смертельные пандемии от доисторических времен до XXI века

Самые страшные заболевания в истории

Maxim
1200 калорий в день: план питания на неделю с рецептами 1200 калорий в день: план питания на неделю с рецептами

План питания на 1200 калорий, рассчитанный на неделю

Cosmopolitan
Все фильмы Уэса Андерсона — от худшего к лучшему Все фильмы Уэса Андерсона — от худшего к лучшему

Фильмы Уэса Андерсона: от наименее эмоционального — к самому пронзительному

Esquire
Быть шаолиньским монахом: почему рынок приложений для медитации переживает бум Быть шаолиньским монахом: почему рынок приложений для медитации переживает бум

С чем связан бум приложений для медитации?

Forbes
Песнь Адель: гид по жизни и творчеству певицы от А до Я Песнь Адель: гид по жизни и творчеству певицы от А до Я

Личность и карьера Адель от А до Я

Esquire
6 способов правильно высушить обувь осенью и зимой 6 способов правильно высушить обувь осенью и зимой

Правильные способы привести обувь в порядок в период слякоти

Cosmopolitan
Марина Хлебникова в коме: череда бед, которые привели артистку к краху Марина Хлебникова в коме: череда бед, которые привели артистку к краху

Беды, разочарования и печальные события, которые свалились на Марину Хлебникову

Cosmopolitan
Тянуть за язык: с какими запросами россияне обращаются в справочные службы русского языка Тянуть за язык: с какими запросами россияне обращаются в справочные службы русского языка

Забавные запросы в справочные службы русского языка

Esquire
Проблема жъжъь Проблема жъжъь

Что такое «кризис опыления» и как с ним быть

N+1
Лифт для корабля: как работают судоподъёмники Лифт для корабля: как работают судоподъёмники

Как и когда люди придумали судоподъемники?

Популярная механика
Стрижка «веник»: что мы знаем о горячем hair-тренде этой зимы Стрижка «веник»: что мы знаем о горячем hair-тренде этой зимы

Чем прическа «веник» отличается от классического боба

Cosmopolitan
Грязь как полотно: художники, что превращают немытые машины в искусство Грязь как полотно: художники, что превращают немытые машины в искусство

Как грязные автомобили могут пробуждать желание творить

Playboy
2001 год: как это было 2001 год: как это было

Конец независимого телевидения, гремит «Тату», космическая эра идет на дно

GQ
Они были первыми: самые старые звезды Они были первыми: самые старые звезды

Астрономы пытаются понять, как зажигались первые звезды

Популярная механика
Смертельный номер: каким получился «Французский вестник» Уэса Андерсона Смертельный номер: каким получился «Французский вестник» Уэса Андерсона

«Французский вестник» — самый усталый фильм Уэса Андерсона

РБК
С чистого листа С чистого листа

Атмосферный интерьер с выразительными цветовыми и стилистическими акцентами

SALON-Interior
«Воздушные ворота Ленинграда»: как строился аэровокзал «Пулково» — модернистское здание 70-х, получившее в народе прозвище «пять стаканов» «Воздушные ворота Ленинграда»: как строился аэровокзал «Пулково» — модернистское здание 70-х, получившее в народе прозвище «пять стаканов»

Отрывок из книги «Ленинград: архитектура советского модернизма. 1955−1991»

Esquire
Своя игра Своя игра

Актриса и певица Нино Нинидзе примерила сияющие вечерние образы

Harper's Bazaar
Что это было, или История одной матери — почти одиночки Что это было, или История одной матери — почти одиночки

Как часто это бывает: сама не старая еще, но жизнь почему-то кажется законченной

СНОБ
9 супермодных пар обуви, которые тебе могут не подойти — разбираемся почему 9 супермодных пар обуви, которые тебе могут не подойти — разбираемся почему

Рассмотрим актуальные модели обуви и расскажем, чем они опасны

Cosmopolitan
Триллер о кибербуллинге. Чан Хо-Кей: «Вторая сестра» Триллер о кибербуллинге. Чан Хо-Кей: «Вторая сестра»

Отрывок из триллера Чан Хо-Кей «Вторая сестра»

СНОБ
Право не быть роботом. Что вы знаете о робоэтике Право не быть роботом. Что вы знаете о робоэтике

Что мы упускаем в «законах робототехники» Айзека Азимова?

Популярная механика
5 главных вопросов о DDR5: стоит ли переходить на эту память уже сейчас? 5 главных вопросов о DDR5: стоит ли переходить на эту память уже сейчас?

Отвечаем на основные вопросы о новом стандарте оперативной памяти DDR5

CHIP
Волшебный топ: 7 отличных фильмов про магию и колдовство Волшебный топ: 7 отличных фильмов про магию и колдовство

Многим хочется верить в сказки, поэтому мы собрали для вас 7 колдовских фильмов

Cosmopolitan
Павел Антокольский Павел Антокольский

Поэт Павел Антокольский глазами Дмитрия Быкова

Дилетант

Истории о маленьких ночных шалостях

Playboy
Математики объяснили крючковатость клювов галапагосских вьюрков Математики объяснили крючковатость клювов галапагосских вьюрков

Математические уравнения показали, как и зачем клюв вьюрка вырастает крючковатым

N+1
Куда пропали 10 ярких звезд КВН, веселивших страну в нулевых Куда пропали 10 ярких звезд КВН, веселивших страну в нулевых

Но где сегодня Ляля из «Утомленных солнцем» или Жанка из «Пармы»?

Cosmopolitan
Открыть в приложении