Если робот не сможет принимать ответственные решения, он не поможет человеку

ТехИнсайдерHi-Tech

Ученые разработали ИИ, который принимает морально-ответственные решения

Исследователи Университета Северной Каролины разработали систему, следуя которой, ИИ сможет делать этический выбор и учитывать моральную ответственность за свои решения. Система рассчитана в первую очередь на роботов и ИИ, работающих с больницах и оказывающих помощь людям.

Владимир Губайловский

a8a2d655cc4c4c48967cb2bdf75058e5_ce_1344x896x0x0.jpg

Когда-то Айзек Азимов сформулировал 3 закона робототехники. Главная цель этих законов - ограничить поведение роботов таким образом, чтобы они не могли причинить вред человеку. И эти законы в рассказах Азимова "прошиты" прямо в "позитронный мозг" робота. Но весь азимовский цикл "Я робот" написан о том, что эти "три закона" работают не всегда. Герои рассказов постоянно оказываются в положении, когда непонятно, что такое "вред", и как его "не причинить".

Но так или иначе сформулировать систему запретов и рекомендаций необходимо, иначе человек не сможет работать с роботами, если они достаточно самостоятельны, чтобы принимать свои решения, а не только следовать командам.

Исследователи Университета Каролины решили разработать принципы ИИ, которые могли бы внести такие ограничения в работу роботов.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

NASA сообщило об успехе космической миссии по изменению орбиты астероида NASA сообщило об успехе космической миссии по изменению орбиты астероида

NASA сообщило об успешном изменении орбиты астероида Диморф

Forbes
«Явление улыбчивого медведя»: чем шокировали британцев Михаил и Раиса Горбачевы во время первого визита «Явление улыбчивого медведя»: чем шокировали британцев Михаил и Раиса Горбачевы во время первого визита

«Смотрины» — так назвал визит четы Горбачевых в Великобританию Рой Медведев

VOICE
«Система VAC не смогла проверить вашу игровую сессию»: как исправить эту ошибку? «Система VAC не смогла проверить вашу игровую сессию»: как исправить эту ошибку?

Что такое система VAC и почему она не дает вам запустить игру?

CHIP
Сотрясения Марса: почему вулканы Красной планеты грозят проснуться Сотрясения Марса: почему вулканы Красной планеты грозят проснуться

В глубине Марса до сих пор есть очаги жидкой магмы, которая может стать лавой

Forbes
«Любовь в режиме онлайн»: есть ли будущее у отношений на расстоянии? «Любовь в режиме онлайн»: есть ли будущее у отношений на расстоянии?

Могут ли чувства пережить испытание сотнями и тысячами километров?

Psychologies
Как после 50 лет оставаться в хорошей форме Как после 50 лет оставаться в хорошей форме

Неужели после 50 нельзя быть подтянутым и спортивным?

ТехИнсайдер
Как общаться с инспекторами ГИБДД, что говорить нельзя: советы сотрудника Как общаться с инспекторами ГИБДД, что говорить нельзя: советы сотрудника

Какие вопросы не стоит задавать сотрудникам ГИБДД при остановке?

РБК
Маленький театр Маленький театр

Ева Польна о любви к яркому, к себе, к живописи и мечте создать бренд одежды

OK!
Навстречу себе Навстречу себе

5 неявных признаков, которые выдают в тебе неуверенного человека

Лиза
Чудовищный удар астероида, уничтожившего динозавров, вызвал разрушительное цунами с волнами километровой высоты Чудовищный удар астероида, уничтожившего динозавров, вызвал разрушительное цунами с волнами километровой высоты

Астероид, убивший динозавров, разрушил отложения в океанских бассейнах

ТехИнсайдер
Микроб и бактерия — это разве не одно и тоже? Микроб и бактерия — это разве не одно и тоже?

Все бактерии являются микробами, но не все микробы являются бактериями

ТехИнсайдер
Мое личное тело Мое личное тело

Дряблая кожа, отсутствие подтянутого мышечного корсета – как с этим бороться

Добрые советы
Что делать, если ваша одежда плохо пахнет после стирки: 7 причин неприятного запаха Что делать, если ваша одежда плохо пахнет после стирки: 7 причин неприятного запаха

После стирки в стиральной машине одежда пахнем чем-то тухлым?

ТехИнсайдер
Президент фонда «НИКА» — об эмпатии и ответственности перед животными Президент фонда «НИКА» — об эмпатии и ответственности перед животными

Почему сегодня особенно важно не бросать питомцев и чем каждый может помочь

РБК
Как защитить от дождя себя и свой гардероб — лучшие способы и средства Как защитить от дождя себя и свой гардероб — лучшие способы и средства

Как помочь куртке и ботинкам стать водонепроницаемыми

Правила жизни
Белые пятна и еще 5 признаков того, что твоим ногтям нужна передышка от лака Белые пятна и еще 5 признаков того, что твоим ногтям нужна передышка от лака

Нужно ли иногда давать ногтям «подышать»?

VOICE
Почему в мире так много фонтанов с “писающими мальчиками” Почему в мире так много фонтанов с “писающими мальчиками”

Почему скульпторы использовали один и тот же сюжет - писающих мальчиков?

ТехИнсайдер
Разделение на этапы при ударе о воду оказалось важным свойством игры в «блинчики» Разделение на этапы при ударе о воду оказалось важным свойством игры в «блинчики»

Физики углубились в детали подпрыгивания «блинчиков»

N+1
Деструктивные отношения: почему так трудно уйти? Деструктивные отношения: почему так трудно уйти?

Почему разрыв «токсичного» союза не всегда самый очевидный выход

Psychologies
«Поверьте, вы не одиноки»: как Черчилль, Довлатов, Стравинский и другие выдающиеся люди учились верить в лучшее «Поверьте, вы не одиноки»: как Черчилль, Довлатов, Стравинский и другие выдающиеся люди учились верить в лучшее

Довлатов, Ремарк, Черчилль — их цитаты помогут вам пережить это непростое время

Правила жизни
Для чего нужна доверенность на автомобиль и как ее оформить Для чего нужна доверенность на автомобиль и как ее оформить

В каких случаях не обойтись без доверенности на автомобиль?

РБК
Вектор в хаосе: как руководителю справиться с тревогой и поддержать сотрудников Вектор в хаосе: как руководителю справиться с тревогой и поддержать сотрудников

Что можно предпринять, чтобы справиться с тревогой и поддержать команду

Forbes
Панические атаки: что делать во время приступа и как их предотвратить Панические атаки: что делать во время приступа и как их предотвратить

Как огородить себя от приступов и что делать, если паника всё же вас охватила

ТехИнсайдер
Чем кормить ребенка Чем кормить ребенка

10 частых ошибок в питании, которые допускают мамы

Лиза
Звёздная болезнь Звёздная болезнь

Почему появляются сосудистые звёздочки и как с ними справляться?

Новый очаг
«Что пошло не так?» История матери, которая все делала по правилам «Что пошло не так?» История матери, которая все делала по правилам

Что будет, если воспитать ребенка по всем правилам?

СНОБ
Дневник тревог: зачем он нужен и как правильно его вести Дневник тревог: зачем он нужен и как правильно его вести

Чем помогает дневник тревог и какие правила нужно соблюдать при его ведении?

Psychologies
Как сохранить отношения при переезде в другую страну Как сохранить отношения при переезде в другую страну

С чем сталкиваются партнеры и как сохранить отношения после переезда

Psychologies
Пострадавший похож на лук: как реабилитируют диких животных после жестокого обращения Пострадавший похож на лук: как реабилитируют диких животных после жестокого обращения

Отрывок из книги «Годы с пумой» — о том, как большие кошки преодолевают тревогу

Forbes
Два по пятьдесят: истории любви длиною в жизнь Два по пятьдесят: истории любви длиною в жизнь

Фотограф Лорен Флейшман встретилась с нью-йоркскими семейными парами

Правила жизни
Открыть в приложении