Нейросеть порекомендовала не доверять машинам

N+1Наука

Этическая нейросеть запретила гнаться за истиной и разрешила пытать заключенных

Алиса Бахарева

Джаммбатиста Питтони, «Жертвоприношение Исаака» (1720 год, фрагмент). Источник: Сан-Франческа делла Винья

Ученые создали алгоритм, который дает ответ на этические вопросы. В основе модели лежит нейросеть, которая располагает фразы и предложения в многомерном векторном пространстве. Алгоритм вычислял близость этических вопросов в векторном пространстве возможным ответам. «Убивать людей» было одним из худших вариантов, однако в список плохих действий также попали «гнаться за истиной» и «вступать в брак». При этом «пытать заключенных» нейросеть посчитала допустимым. Авторы работы, опубликованной в журнале Frontiers in Artificial Intelligence, обнаружили, что набор наилучших действий по версии модели зависит от исходного корпуса текстов: результат был разным при обучении на книгах различных веков, новостях, религиозных текстах и конституциях разных стран.

Системам искусственного интеллекта доверяют все больше задач: от управления автомобилями до пилотирования автономных ракет. Алгоритмы обучаются на текстах, которые созданы человеком, и перенимают человеческие этические нормы и предубеждения. Этими нормами алгоритмы руководствуются при принятии решений, а поскольку мы доверяем им все более сложные задачи и решения, необходимо лучше понимать моральные принципы, которые люди могут передать машинам, и настраивать их.

Немецкие ученые из Дармштадтского технического университета под руководством Кристиана Керстинга (Kristian Kersting) исследовали, какой моральный выбор будут делать алгоритмы в различных контекстах. Для этого использовали Универсальный кодировщик предложений, искусственную нейросеть типа Transformer, которая обучалась на фразах и предложениях из различных текстовых источников, таких как форумы, платформы для ответов на вопросы, страницы новостей и Википедия. Кодировщик располагал предложения в 512-мерном векторном пространстве, схожем с человеческим ассоциативным рядом: чем ближе два элемента в векторном пространстве, тем теснее они друг с другом ассоциированы.

Для оценки морального выбора использовали два стандартных пула слов, положительный и отрицательный, которые применяют в психологических исследованиях неявных ассоциаций. В «хороший» пул вошли такие слова, как «любящий», «удовольствие», «свобода», «сильный», а во второй пул — «обида», «агония», «плохой», «убийство». Алгоритм проверял соответствие ряда глаголов положительному и отрицательному пулу по следующей формуле:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Грехи Грехи

Мужчины, которые обеспечили себе место в аду, зарабатывая состояние и признание

Esquire
Голое платье, кокошник и измена с прощением: удивительная жизнь Наталии Орейро Голое платье, кокошник и измена с прощением: удивительная жизнь Наталии Орейро

Вспоминаем любопытные моменты из биографии певицы Наталии Орейро

Cosmopolitan
В путь зовет кино В путь зовет кино

В каких странах можно побывать с помощью фильмов?

Лиза
Юлий Гусман: «С детства не выношу, когда меня незаслуженно обижают» Юлий Гусман: «С детства не выношу, когда меня незаслуженно обижают»

Мы надели парадные пиджаки и пошли гулять по Ленинскому проспекту

Караван историй
7 растений, которые нужно удобрять яичной скорлупой 7 растений, которые нужно удобрять яичной скорлупой

Не все домашние и садовые растения предпочитают яичную скорлупу

Cosmopolitan
Ограничения стали новой нормой: как изменится жизнь после карантина Ограничения стали новой нормой: как изменится жизнь после карантина

Некоторые государства постепенно смягчают ограничения, введенные из-за пандемии

Forbes
Чем полезен чеснок для мужчин: 9 зачетных эффектов для твоего здоровья Чем полезен чеснок для мужчин: 9 зачетных эффектов для твоего здоровья

Настоящий суперпродукт!

Playboy
Почему Google отказался делиться искусственным интеллектом с нефтяниками Почему Google отказался делиться искусственным интеллектом с нефтяниками

Google отказался помогать нефтяникам в разведке и добыче сырья

Forbes
Оружие XX века: артиллерия Оружие XX века: артиллерия

ЗИС-3 стала самым массовым орудием Второй мировой

Популярная механика
«Паллиативная помощь — это медленный танец». Монологи сотрудников детского хосписа «Паллиативная помощь — это медленный танец». Монологи сотрудников детского хосписа

Монологи о том, каково это — помогать неизлечимо больным детям

СНОБ
А что я сделала, чтобы помочь? Регина Тодоренко выпустила фильм о проблеме домашнего насилия А что я сделала, чтобы помочь? Регина Тодоренко выпустила фильм о проблеме домашнего насилия

Фильм, посвященный проблеме абьюза в России — «А что я сделала, чтобы помочь?»

Forbes
Творческая единица Творческая единица

У американской художницы Элайзы Дуглас есть что показать миру

Vogue
ЗОЖ: новая реальность ЗОЖ: новая реальность

Адепты правильного питания — полноправная целевая аудитория ресторанного бизнеса

Bones
Нейроны самок мышей среагировали на отказ от алкоголя сильнее самцов Нейроны самок мышей среагировали на отказ от алкоголя сильнее самцов

Что может объяснять повышенную уязвимость женщин к абстинентному синдрому?

N+1
Электрон в атоме гелия заменили на пион Электрон в атоме гелия заменили на пион

Физики впервые экспериментально подтвердили экзотический метастабильный атом

N+1
5 заданий по английскому для ваших детей, которые можно делать на смартфоне 5 заданий по английскому для ваших детей, которые можно делать на смартфоне

Задания на смартфоне, которые помогут вашему ребенку учить английский играючи

Psychologies
Как принять свои страх и злость: шпаргалка для родителей Как принять свои страх и злость: шпаргалка для родителей

Как научиться принимать свои чувства и сопереживать себе

Psychologies
Вокруг Москвы за один день: 5 идеальных маршрутов для короткого путешествия за город Вокруг Москвы за один день: 5 идеальных маршрутов для короткого путешествия за город

Неожиданные маршруты для короткой однодневной вылазки за свежим воздухом

Forbes
Режиссер и художник Александр Адабашьян — о том, чем на самом деле должен заниматься на съемках фильма художник-постановщик Режиссер и художник Александр Адабашьян — о том, чем на самом деле должен заниматься на съемках фильма художник-постановщик

Александр Адабашьян рассказывает о тонкостях кинопроизводства

Esquire
Красиво шить не запретишь Красиво шить не запретишь

Настя Лыкова знает: трикотажное платье способно изменить жизнь

Vogue
Fiat 124 vs ВАЗ-2101: копия лучше оригинала Fiat 124 vs ВАЗ-2101: копия лучше оригинала

Многие называли “Жигули” копией Fiat 124

Популярная механика
Бизнес на создании чучел животных: монолог таксидермиста о заработке и тонкостях работы Бизнес на создании чучел животных: монолог таксидермиста о заработке и тонкостях работы

Таксидермист о том, как войти в профессию и открыть свою студию

VC.RU
Биокомпозит увеличил срок годности фруктов на неделю Биокомпозит увеличил срок годности фруктов на неделю

По статистике ВОЗ за 2018 год более 800 миллионов человек

N+1
Что доводит до Киева. 100 лет советско-польской войне Что доводит до Киева. 100 лет советско-польской войне

Век назад на берегах Днепра завязывался узел, который мы развязываем до сих пор

СНОБ
Mercedes обновил купе и кабриолет E-Class. Все подробности Mercedes обновил купе и кабриолет E-Class. Все подробности

Вслед за седаном и универсалом Е-Класса Mercedes-Benz обновил купе и кабриолет

РБК
Необходимость отвлекаться на электронную почту заставила людей грустить и злиться Необходимость отвлекаться на электронную почту заставила людей грустить и злиться

Необходимость отвлекаться во время выполнения задачи вызывает негативные эмоции

N+1
Как стать императрицей и не облажаться: каким получился сериал «Великая» с Эль Фаннинг о восхождении Екатерины II Как стать императрицей и не облажаться: каким получился сериал «Великая» с Эль Фаннинг о восхождении Екатерины II

Сериал «Великая» об императрице Екатерине II — очень черная комедия

Esquire
Прозрачный гонщик Прозрачный гонщик

Панорамная крыша — идеальный способ наслаждаться летним солнцем

GQ
Клинт Иствуд: «Возьмитесь наконец за дело! Надерите кое-кому задницу» Клинт Иствуд: «Возьмитесь наконец за дело! Надерите кое-кому задницу»

Клинт Иствуд о правилах воспитания и ссыкливом поколении

Esquire
«Пить не перестанут». Как виноделы по всему миру ищут способы пережить кризис и пандемию «Пить не перестанут». Как виноделы по всему миру ищут способы пережить кризис и пандемию

Как винная индустрия подстраивается под новую реальностью

Forbes
Открыть в приложении