О трудностях обучения роботов

VC.RUHi-Tech

Бить за чизбургер — плохо, бить чизбургером — приемлемо: как учёные обучают искусственный интеллект этическим нормам

Учёные обучили ИИ-бота нормам морали, составив для него учебник на основе философских сабреддитов. Теперь робот знает, что нельзя убивать медведя, чтобы порадовать ребёнка, и не стоит включать блендер в три часа ночи. О проекте и трудностях обучения — в пересказе IEEE Spectrum.

Полина Лааксо

1280
Bold Expert

Технологии искусственного интеллекта всё чаще используют для принятия важных решений, пишет IEEE Spectrum: например, когда нужно определить, какой срок лишения свободы назначить преступнику или кто в первую очередь должен получить социальную помощь.

В этих и многих других вопросах, считают учёные, ИИ должен отталкиваться от нравственных и моральных норм. И базовые принципы, которым нужно обучать роботов, сформулировал ещё в 1942 году писатель и биохимик Айзек Азимов в научно-фантастическом рассказе «Хоровод»:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы это сделал кто-то другой.
  2. Он обязан выполнять приказы человека, если только те не противоречат первому пункту.
  3. И должен защищать себя до тех пор, пока это не идёт вразрез с первым и вторым положениями.

Общеизвестные заповеди вроде «не убей» кажутся очевидными и легко применимыми в теории, но в некоторых ситуациях человек может ими пренебречь — например, при самообороне.

Поэтому разработчики ИИ-бота Delphi, который должен принимать более осознанные с точки зрения морали выводы, решили отойти от теоретических аксиом, согласно которым «убивать — всегда плохо», а значит делать это ни при каких условиях нельзя.

Вместо этого мы обратились к дескриптивной этике — той, что изучает реально практикуемые в повседневных ситуациях нормы. Ронан Ле Бра, соавтор исследования

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Вопрос дня: сможет ли Илон Маск нарисовать свое лицо на поверхности Луны Вопрос дня: сможет ли Илон Маск нарисовать свое лицо на поверхности Луны

Портрет Илона Маска на Луне. Как вам такое?

Популярная механика
Новый ASUS ZenBook Pro Duo: зачем ноутбуку два экрана Новый ASUS ZenBook Pro Duo: зачем ноутбуку два экрана

Сегодня от ноутбука требуется быть мастером на все клавиши

РБК
Из помазанников Божьих в святые мученики Из помазанников Божьих в святые мученики

Расстрел царской семьи — едва ли не самый хорошо исследованный сюжет

Дилетант
10 современных технологий, придуманных очень давно 10 современных технологий, придуманных очень давно

Новых идей в принципе не существует

Популярная механика
Бурак Озчивит и Фахрие Эвджен: совместимость звездной пары разбирает астролог Бурак Озчивит и Фахрие Эвджен: совместимость звездной пары разбирает астролог

Бурак и Фахрие - одни из самых популярных актеров турецких сериалов

Cosmopolitan
Мистическая Москва: 5 самых таинственных и пугающих легенд о столице Мистическая Москва: 5 самых таинственных и пугающих легенд о столице

Пугающие истории Москвы

Playboy
Диабет, болезни сердца и еще 2 проблемы со здоровьем, которые возникнут, если часто есть пиццу (но вред можно снизить) Диабет, болезни сердца и еще 2 проблемы со здоровьем, которые возникнут, если часто есть пиццу (но вред можно снизить)

Увлечение фастфудом опасно, но это не значит, что нужно от него отказаться

Playboy
Как запустить женский клуб и не поссориться из-за разных взглядов на дискриминацию Как запустить женский клуб и не поссориться из-за разных взглядов на дискриминацию

Елизавета Меркурьева и Алина Гегамова — о том, зачем создали женское сообщество

Forbes
6 известных пирамид, кроме египетских 6 известных пирамид, кроме египетских

Пирамиды есть даже в России, правда, без фараонов внутри

Maxim
Как утопия ушла в монастырь Как утопия ушла в монастырь

Проект Григория Ревзина «Оправдание утопии». Санкт-галленский план

Weekend
Самые модные способы носить дубленку этой зимой: 9 идей от главных модниц Европы Самые модные способы носить дубленку этой зимой: 9 идей от главных модниц Европы

Дубленка — теплая, стильная, практичная верхняя одежда на зиму

Cosmopolitan
Лучшие фильмы с музыкой Эннио Морриконе Лучшие фильмы с музыкой Эннио Морриконе

10 ноября в Риме родился человек, ставший звуковым знаком качества киноэкрана

Maxim
В каких продуктах много витамина А В каких продуктах много витамина А

Витамин А выполняет множество важных функций в организме

РБК
Как построить личный бренд: 7 правил успеха Арнольда Шварценеггера Как построить личный бренд: 7 правил успеха Арнольда Шварценеггера

Чему ты можешь научиться у "железного Арни"

Playboy
Сады на крыше: где искать городской оазис в Сингапуре и Москве Сады на крыше: где искать городской оазис в Сингапуре и Москве

Через пару десятилетий «зеленые» здания станут новой нормой для мегаполисов

РБК
Как бизнесу искать и нанимать дефицитных айтишников Как бизнесу искать и нанимать дефицитных айтишников

От нехватки кадров на IT-рынке устали все

Inc.
Почему нас раздражает собственный голос в записи? Почему нас раздражает собственный голос в записи?

Нам не нравится свой голос в записи, потому что мы не узнаем себя

Cosmopolitan
Видимо-невидимо Видимо-невидимо

Сьюки Уотерхаус примеряет украшения и выбирает, какую роль сыграть сегодня

Harper's Bazaar
Как похудеть на 3 кг за неделю: 12 правил, которые в этом помогут Как похудеть на 3 кг за неделю: 12 правил, которые в этом помогут

12 советов, которые позволят переключиться на здоровое похудение

Cosmopolitan
Подавленные эмоции: почему они мешают жить и как с этим справиться Подавленные эмоции: почему они мешают жить и как с этим справиться

Подавленные эмоции — это настоящий ящик Пандоры

СНОБ
Интернет-портрет Интернет-портрет

О чем говорит наше поведение в социальных сетях

Лиза
Во имя сына: каким получился новый альбом Адель «30» Во имя сына: каким получился новый альбом Адель «30»

Как сделана пластинка Адель «30», сумела ли певица оправдать ожидания?

Esquire
Тизнаос: самодельные испанские броневики времен Гражданской войны Тизнаос: самодельные испанские броневики времен Гражданской войны

Тизнаос — алмаз самодельных броневиков Испании

Популярная механика
Скотленд-Ярд Скотленд-Ярд

Исторический дом в Лондоне с шотландскими и русскими мотивами в интерьере

AD
Как расстаться с девушкой так, чтобы ваши дальнейшие отношения развивались по твоему сценарию Как расстаться с девушкой так, чтобы ваши дальнейшие отношения развивались по твоему сценарию

Если вы наконец расходитесь, то эти советы придутся кстати

Maxim
Что это было, или История одной матери — почти одиночки Что это было, или История одной матери — почти одиночки

Как часто это бывает: сама не старая еще, но жизнь почему-то кажется законченной

СНОБ
Мужской стиль одежды: как выбрать свой Мужской стиль одежды: как выбрать свой

Какие бывают мужские стили одежды, как выбрать свой и не совершить ошибки

Playboy
Ужасно вкусно: 10 деликатесов из разных стран, от которых волосы встают дыбом Ужасно вкусно: 10 деликатесов из разных стран, от которых волосы встают дыбом

Таких деликатесов вы точно не пробовали

Playboy
Барыня из «Муму»: почему мать Тургенева ненавидели все, включая сына Барыня из «Муму»: почему мать Тургенева ненавидели все, включая сына

Сказка про Золушку, в которой хеппи-энда не получилось

Cosmopolitan
Опасности метавселенных: что прогнозируют фантасты Опасности метавселенных: что прогнозируют фантасты

Книги о том, какие опасности могут сулить метавселенные

Популярная механика
Открыть в приложении