О трудностях обучения роботов

VC.RUHi-Tech

Бить за чизбургер — плохо, бить чизбургером — приемлемо: как учёные обучают искусственный интеллект этическим нормам

Учёные обучили ИИ-бота нормам морали, составив для него учебник на основе философских сабреддитов. Теперь робот знает, что нельзя убивать медведя, чтобы порадовать ребёнка, и не стоит включать блендер в три часа ночи. О проекте и трудностях обучения — в пересказе IEEE Spectrum.

Полина Лааксо

1280
Bold Expert

Технологии искусственного интеллекта всё чаще используют для принятия важных решений, пишет IEEE Spectrum: например, когда нужно определить, какой срок лишения свободы назначить преступнику или кто в первую очередь должен получить социальную помощь.

В этих и многих других вопросах, считают учёные, ИИ должен отталкиваться от нравственных и моральных норм. И базовые принципы, которым нужно обучать роботов, сформулировал ещё в 1942 году писатель и биохимик Айзек Азимов в научно-фантастическом рассказе «Хоровод»:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы это сделал кто-то другой.
  2. Он обязан выполнять приказы человека, если только те не противоречат первому пункту.
  3. И должен защищать себя до тех пор, пока это не идёт вразрез с первым и вторым положениями.

Общеизвестные заповеди вроде «не убей» кажутся очевидными и легко применимыми в теории, но в некоторых ситуациях человек может ими пренебречь — например, при самообороне.

Поэтому разработчики ИИ-бота Delphi, который должен принимать более осознанные с точки зрения морали выводы, решили отойти от теоретических аксиом, согласно которым «убивать — всегда плохо», а значит делать это ни при каких условиях нельзя.

Вместо этого мы обратились к дескриптивной этике — той, что изучает реально практикуемые в повседневных ситуациях нормы. Ронан Ле Бра, соавтор исследования

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Рентгеновские снимки Ника Визи: автобусы и трактора в рентгене Рентгеновские снимки Ника Визи: автобусы и трактора в рентгене

Фотограф Ник Визи превратил рентгеновские снимки в искусство

Популярная механика
Расположение рожек на головах гадюк связали со средой обитания Расположение рожек на головах гадюк связали со средой обитания

Расположение рожек на головах гадюковых змей зависит от среды их обитания

N+1
Двухсотлетний Тарас Двухсотлетний Тарас

Что не так в гоголевской хронологии истории Тараса Бульбы

Дилетант
Урок черчения Урок черчения

Хочешь научиться скульптурировать лицо с помощью косметики?

Лиза
«Корпоративный экзорцизм»: кто подставил основателя Papa John's по его мнению и как он провёл три года после скандала «Корпоративный экзорцизм»: кто подставил основателя Papa John's по его мнению и как он провёл три года после скандала

Почему основатель Papa John's уверен в заговоре?

VC.RU
Чем хороши новые Genesis G70 и GV70 Чем хороши новые Genesis G70 и GV70

Оцениваем возможности новых автомобилей корейской марки Genesis

Esquire
PodRide: самый крутой электробайк или самый странный электромобиль PodRide: самый крутой электробайк или самый странный электромобиль

"Электрокар" весом в 70 кг имеет гибридную схему: в нем есть педали и мотор

CHIP
Детей в Древнем Перу отлучили от груди на третьем году жизни Детей в Древнем Перу отлучили от груди на третьем году жизни

Биоархеологи исследовали останки 48 детей, похороненных около 2500 лет назад

N+1
О чем думают девушки, когда занимаются сексом на одну ночь? О чем думают девушки, когда занимаются сексом на одну ночь?

Какие подводные камни кроются за согласием «просто разок поехать к тебе»

Maxim
Скручивание тела растущей улитки свернуло тесную раковину в спираль Скручивание тела растущей улитки свернуло тесную раковину в спираль

Ученые построили математическую модель роста раковины моллюсков

N+1
«Мы виделись четыре раза за два года». Женщина раскрыла секрет удачного брака «Мы виделись четыре раза за два года». Женщина раскрыла секрет удачного брака

Именно расстояние делает брак наших героев крепким и счастливым

Cosmopolitan
Спортсменки года: Дина и Арина Аверины Спортсменки года: Дина и Арина Аверины

Гимнастки заняли второе и четвертое места, но для зрителей они — номер один

Glamour
Измена: взгляд с двух сторон. Если неверный партнер — вы Измена: взгляд с двух сторон. Если неверный партнер — вы

Какие чувства испытывает тот, кто изменил своему партнеру?

Psychologies
Смертельный номер: каким получился «Французский вестник» Уэса Андерсона Смертельный номер: каким получился «Французский вестник» Уэса Андерсона

«Французский вестник» — самый усталый фильм Уэса Андерсона

РБК
Боги, люди и поганки Боги, люди и поганки

Грибы занимают уникальное место не только в биосфере, но и в истории цивилизации

Вокруг света
Физика черных списков: к чему приведет попадание МФТИ под санкции США Физика черных списков: к чему приведет попадание МФТИ под санкции США

МФТИ попал в американский черный список конечных военных пользователей

Forbes
Дмитрий Блинов Дмитрий Блинов

Как гостю и ресторатору выйти сухими из бурлящих вод комментов и отзывов

Собака.ru
Деньги зумеров: кто больше всех зарабатывает на рекламе в YouTube Деньги зумеров: кто больше всех зарабатывает на рекламе в YouTube

Сколько стоит реклама в крупных YouTube-каналах, какие факторы влияют на цену?

Forbes
Быть Стрельцом — это… 10 вещей, которые поймет только этот знак Быть Стрельцом — это… 10 вещей, которые поймет только этот знак

Поскольку сейчас на дворе сезон Стрельцов, поговорим именно о них

Cosmopolitan
Как модель для сборки Как модель для сборки

Шварцвальд: времена меняются, но не все в мире спешит меняться вместе с ними

Вокруг света
Как на иголках Как на иголках

Чего мы не понимаем об акупунктуре

N+1
Умники и умницы: 9 сериалов для настоящих интеллектуалов Умники и умницы: 9 сериалов для настоящих интеллектуалов

Презираешь сериалы, считая их пустой тратой времени и глупым развлечением?

Cosmopolitan
Лингвисты назвали Северо-Восточный Китай прародиной трансевразийских языков Лингвисты назвали Северо-Восточный Китай прародиной трансевразийских языков

Ученые исследовали происхождение трансевразийских языков

N+1
10 главных инвестиционных трендов следующего десятилетия: куда вложить деньги 10 главных инвестиционных трендов следующего десятилетия: куда вложить деньги

Инвестиционные тренды, которые зарождаются и «выстрелят» в ближайшие годы

Forbes
«Я пустила подругу пожить у нас, а она переспала с моим парнем» «Я пустила подругу пожить у нас, а она переспала с моим парнем»

Измена любимого и предательство подруги — это всегда больно

Psychologies
Сонник: 10 самых популярных снов и их толкование Сонник: 10 самых популярных снов и их толкование

Популярные сны, которые несут скрытый смысл

Cosmopolitan
Он же памятник! Звезды и их откровенные фотографии на фоне храмов Он же памятник! Звезды и их откровенные фотографии на фоне храмов

Самые громкие истории с эпатажными фотографиями на фоне храмов

Cosmopolitan
Изменение океанических течений назвали основной причиной ордовикского вымирания Изменение океанических течений назвали основной причиной ордовикского вымирания

Ученые предложили новую интерпретацию первого из крупных массовых вымираний

N+1
Тизнаос: самодельные испанские броневики времен Гражданской войны Тизнаос: самодельные испанские броневики времен Гражданской войны

Тизнаос — алмаз самодельных броневиков Испании

Популярная механика
Никогда не курила и заболела раком легкого: как я победила болезнь и выздоровела Никогда не курила и заболела раком легкого: как я победила болезнь и выздоровела

Иногда опухоль появляется в легких человека, который ведет здоровый образ жизни

Cosmopolitan
Открыть в приложении