О трудностях обучения роботов

VC.RUHi-Tech

Бить за чизбургер — плохо, бить чизбургером — приемлемо: как учёные обучают искусственный интеллект этическим нормам

Учёные обучили ИИ-бота нормам морали, составив для него учебник на основе философских сабреддитов. Теперь робот знает, что нельзя убивать медведя, чтобы порадовать ребёнка, и не стоит включать блендер в три часа ночи. О проекте и трудностях обучения — в пересказе IEEE Spectrum.

Полина Лааксо

1280
Bold Expert

Технологии искусственного интеллекта всё чаще используют для принятия важных решений, пишет IEEE Spectrum: например, когда нужно определить, какой срок лишения свободы назначить преступнику или кто в первую очередь должен получить социальную помощь.

В этих и многих других вопросах, считают учёные, ИИ должен отталкиваться от нравственных и моральных норм. И базовые принципы, которым нужно обучать роботов, сформулировал ещё в 1942 году писатель и биохимик Айзек Азимов в научно-фантастическом рассказе «Хоровод»:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы это сделал кто-то другой.
  2. Он обязан выполнять приказы человека, если только те не противоречат первому пункту.
  3. И должен защищать себя до тех пор, пока это не идёт вразрез с первым и вторым положениями.

Общеизвестные заповеди вроде «не убей» кажутся очевидными и легко применимыми в теории, но в некоторых ситуациях человек может ими пренебречь — например, при самообороне.

Поэтому разработчики ИИ-бота Delphi, который должен принимать более осознанные с точки зрения морали выводы, решили отойти от теоретических аксиом, согласно которым «убивать — всегда плохо», а значит делать это ни при каких условиях нельзя.

Вместо этого мы обратились к дескриптивной этике — той, что изучает реально практикуемые в повседневных ситуациях нормы. Ронан Ле Бра, соавтор исследования

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Журавлиная родина» скворцов: где и зачем в России построили многоэтажное общежитие для певчих птиц «Журавлиная родина» скворцов: где и зачем в России построили многоэтажное общежитие для певчих птиц

На что способны скворцы, живущие в специальном общежитии для певчих птиц

Вокруг света
С видом на горы: 5 лучших мест для фотографирования на курорте Роза Хутор С видом на горы: 5 лучших мест для фотографирования на курорте Роза Хутор

Где сфотографироваться на Розе Хутор, чтобы гарантированно собрать урожай лайков

Cosmopolitan
Из помазанников Божьих в святые мученики Из помазанников Божьих в святые мученики

Расстрел царской семьи — едва ли не самый хорошо исследованный сюжет

Дилетант
Завтра была война… Завтра была война…

Резкий поворот во внешней политике Советского Союза

Дилетант
Наночастицы в двойной оболочке помогли антибиотикам уничтожить резистентные бактерии Наночастицы в двойной оболочке помогли антибиотикам уничтожить резистентные бактерии

Ученые сделали наночастицы золота биосовместимыми и эффективными против бактерий

N+1
Маски сейчас «говорят» о людях больше, чем их лицо Маски сейчас «говорят» о людях больше, чем их лицо

«Масочная культура» постепенно обрастает наблюдениями, требующими обобщений

СНОБ
Экстремальная гелиевая звезда оказалась необычной богатой гелием звездой Экстремальная гелиевая звезда оказалась необычной богатой гелием звездой

Астрономы переопределили свойства звезды HD 144941

N+1
Best of the Best Best of the Best

Вспоминаем лучших из лучших — номинантов на премию GQ Men of the Year

GQ
Самые красивые и самые уродливые кошки с математической точки зрения Самые красивые и самые уродливые кошки с математической точки зрения

Не можешь выбрать, какая порода тебе нравится больше? Используй золотое сечение!

Maxim
Как распознать в себе крутого программиста: 5 главных признаков Как распознать в себе крутого программиста: 5 главных признаков

Какими пятью качествами обладают востребованные сегодня IT-специалисты

Популярная механика
Рассказ из сборника «Сибирь: счастье за горами» Рассказ из сборника «Сибирь: счастье за горами»

Отрывок из сборника рассказов, посвященных Сибири

СНОБ
Карта Сан-Франциско на шести кассетах: чем пользовались водители для навигации до GPS Карта Сан-Франциско на шести кассетах: чем пользовались водители для навигации до GPS

Краткая история первых навигационных систем — в пересказе Ars Technica

VC.RU
Государства, которые просуществовали несколько дней Государства, которые просуществовали несколько дней

Не все страны могут похвастаться многовековой историей

Maxim
10 современных технологий, придуманных очень давно 10 современных технологий, придуманных очень давно

Новых идей в принципе не существует

Популярная механика
Мужчины в отношениях стали нерешительны? Мнение читательницы и психолога Мужчины в отношениях стали нерешительны? Мнение читательницы и психолога

Наша героиня развелась и рассказала о своем новом опыте свиданий

Psychologies
Путь розы: как устроены крупнейшие цветочные аукционы Путь розы: как устроены крупнейшие цветочные аукционы

Отрывок из книги Эми Стюарт «Путь розы» о цветочном бизнесе

Forbes
Как будущий американский самолет может доминировать в воздухе Как будущий американский самолет может доминировать в воздухе

ВВС США продолжает разработку новых истребителей

Популярная механика
Электрошок: прошлое и настоящее Электрошок: прошлое и настоящее

Так ли страшна процедура электрошока на самом деле?

Psychologies
Как правильно пить на корпоративных мероприятиях Как правильно пить на корпоративных мероприятиях

Когда алкоголь льется рекой, но вам надо сохранять человеческое лицо

GQ
Роботы и тяга к блаженству: почему эксперты обеспокоены тем, что ИИ может стать гедонистом Роботы и тяга к блаженству: почему эксперты обеспокоены тем, что ИИ может стать гедонистом

Что такое вайрхэндинг и как он связан с искусственным интеллектом?

Популярная механика
Что такое аромарасчесывание и как оно избавляет от перхоти и выпадения волос Что такое аромарасчесывание и как оно избавляет от перхоти и выпадения волос

Аромарасчесывание сделает уход за волосами еще более полезным и эффективным

Cosmopolitan
Как диагностируют и лечат спинальную мышечную атрофию Как диагностируют и лечат спинальную мышечную атрофию

Что известно о спинальной мышечной атрофии и почему её лечение стоит так дорого?

РБК
Земля – Орбита. Как отправить свое имя в космос? Земля – Орбита. Как отправить свое имя в космос?

Пластина — 10 на 15 мм, а имен — 22 772. Как всё уместить, Карл?

Популярная механика
Удивительная история ездовых собак в СССР Удивительная история ездовых собак в СССР

Собаки на Крайнем севере были сторожем, проводником в другой мир и транспортом

Maxim
Большой Эрмитаж Большой Эрмитаж

«Мадонна Литта» Леонардо да Винчи и «Христос-Вседержитель» Тициана

Культура.РФ
Татьяна Доронина. Королева Лир Татьяна Доронина. Королева Лир

Московские театральные события напоминают мыльную оперу или индийскую мелодраму

СНОБ
«Да ладно, не парься» и еще 5 фраз, после которых собеседник не захочет общаться «Да ладно, не парься» и еще 5 фраз, после которых собеседник не захочет общаться

Фразы-триггеры, которые не помогут успокоить собеседника

Cosmopolitan
Компании ещё не отправили человека на Марс, но уже думают, как поделить планету на епархии и обустроить тюрьмы Компании ещё не отправили человека на Марс, но уже думают, как поделить планету на епархии и обустроить тюрьмы

Технологии для Марса могут улучшить строительство и производства на Земле

VC.RU
Как мы воспринимаем время: то оно тянется, то несётся Как мы воспринимаем время: то оно тянется, то несётся

Что такое чувство времени?

Популярная механика
Дополненная реальность Дополненная реальность

Художник Жак Луи Давид подчинил воле императора пространство, время и реальность

Вокруг света
Открыть в приложении