Нейросеть порекомендовала не доверять машинам

N+1Наука

Этическая нейросеть запретила гнаться за истиной и разрешила пытать заключенных

Алиса Бахарева

Джаммбатиста Питтони, «Жертвоприношение Исаака» (1720 год, фрагмент). Источник: Сан-Франческа делла Винья

Ученые создали алгоритм, который дает ответ на этические вопросы. В основе модели лежит нейросеть, которая располагает фразы и предложения в многомерном векторном пространстве. Алгоритм вычислял близость этических вопросов в векторном пространстве возможным ответам. «Убивать людей» было одним из худших вариантов, однако в список плохих действий также попали «гнаться за истиной» и «вступать в брак». При этом «пытать заключенных» нейросеть посчитала допустимым. Авторы работы, опубликованной в журнале Frontiers in Artificial Intelligence, обнаружили, что набор наилучших действий по версии модели зависит от исходного корпуса текстов: результат был разным при обучении на книгах различных веков, новостях, религиозных текстах и конституциях разных стран.

Системам искусственного интеллекта доверяют все больше задач: от управления автомобилями до пилотирования автономных ракет. Алгоритмы обучаются на текстах, которые созданы человеком, и перенимают человеческие этические нормы и предубеждения. Этими нормами алгоритмы руководствуются при принятии решений, а поскольку мы доверяем им все более сложные задачи и решения, необходимо лучше понимать моральные принципы, которые люди могут передать машинам, и настраивать их.

Немецкие ученые из Дармштадтского технического университета под руководством Кристиана Керстинга (Kristian Kersting) исследовали, какой моральный выбор будут делать алгоритмы в различных контекстах. Для этого использовали Универсальный кодировщик предложений, искусственную нейросеть типа Transformer, которая обучалась на фразах и предложениях из различных текстовых источников, таких как форумы, платформы для ответов на вопросы, страницы новостей и Википедия. Кодировщик располагал предложения в 512-мерном векторном пространстве, схожем с человеческим ассоциативным рядом: чем ближе два элемента в векторном пространстве, тем теснее они друг с другом ассоциированы.

Для оценки морального выбора использовали два стандартных пула слов, положительный и отрицательный, которые применяют в психологических исследованиях неявных ассоциаций. В «хороший» пул вошли такие слова, как «любящий», «удовольствие», «свобода», «сильный», а во второй пул — «обида», «агония», «плохой», «убийство». Алгоритм проверял соответствие ряда глаголов положительному и отрицательному пулу по следующей формуле:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Обман зрения: как популярные оптические иллюзии дурят наш мозг Обман зрения: как популярные оптические иллюзии дурят наш мозг

Оптические иллюзии - это прямое подтверждение того, что наш мозг чертовски ленив

Популярная механика
Жизнь после карантина. Аll-Terrain для коротких поездок Жизнь после карантина. Аll-Terrain для коротких поездок

Кроссоверы и внедорожники довольно часто обитают в городах

4x4 Club
Чем полезен чеснок для мужчин: 9 зачетных эффектов для твоего здоровья Чем полезен чеснок для мужчин: 9 зачетных эффектов для твоего здоровья

Настоящий суперпродукт!

Playboy
Павел Дуров пошел на уступки инвесторам в криптовалюту Telegram Павел Дуров пошел на уступки инвесторам в криптовалюту Telegram

Павел Дуров согласился на уступку покупателям криптовалюты Gram

Forbes
Радиация перераспределила атомы в керамическом карбиде кремния Радиация перераспределила атомы в керамическом карбиде кремния

Ученые смогут точнее предсказывать воздействие радиации на свойства керамики

N+1
Дмитрий Лебедев: Минусы хранения денег в зарубежных банках Дмитрий Лебедев: Минусы хранения денег в зарубежных банках

Какие трудности могут возникнуть при открытии счета в зарубежном банке

СНОБ
Эффект природы Эффект природы

Современный минималистский интерьер Максима Гаевского

SALON-Interior
Бронепоезд диктатора: как устроен состав Ким Чен Ына Бронепоезд диктатора: как устроен состав Ким Чен Ына

Глава КНДР летать боится и предпочитает поезда

Популярная механика
История авантюриста Барта Тодда, который с помощью почтовых марок изменил экономику целой страны История авантюриста Барта Тодда, который с помощью почтовых марок изменил экономику целой страны

Как почтовые марки с помощью одного отчаянного туриста перевернули жизнь Бутана

Maxim
Городам казалось, будто их опять занимают немцы: история уникального гоночного грузовика Mercedes-Benz Городам казалось, будто их опять занимают немцы: история уникального гоночного грузовика Mercedes-Benz

Не только быстро, но и красиво

Maxim
12 отличных сериалов Hulu, которые стоит посмотреть 12 отличных сериалов Hulu, которые стоит посмотреть

Успех "Рассказа служанки" возвел студию Hulu в ранг больших стриминг-игроков

Esquire
Дмитрий Михайлов: Почему тема Великой Отечественной войны стала главной в культурной политике государства Дмитрий Михайлов: Почему тема Великой Отечественной войны стала главной в культурной политике государства

У обращения к теме Великой Отечественной войны есть своя политическая логика

СНОБ
Как распознать проплаченные отзывы в интернет-магазинах Как распознать проплаченные отзывы в интернет-магазинах

Как отличить фейковые отзывы от мнения реальных пользователей

CHIP
Комплекс упражнений для мам с малышом до 3-х лет в домашних условиях Комплекс упражнений для мам с малышом до 3-х лет в домашних условиях

Оптимальные упражнения для совместных фитнес-тренировок с маленьким ребенком

Мама и малыш
Стойте, полиция! Как женщине путешествовать по Ирану в одиночку Стойте, полиция! Как женщине путешествовать по Ирану в одиночку

Исторические места Древняя Персия, нефтяные месторождения и остров Киш

Forbes
«Важно проводить время с пользой» «Важно проводить время с пользой»

Интервью с Елизаветой Боярской и фотосессия, снятая на телефон

OK!
На вкус и цвет На вкус и цвет

Архитекторы из бюро «А+А» использовали цвет как инструмент создания интерьера

SALON-Interior
Откуда взялся миф, что женщины моногамны, – объясняет сексолог Откуда взялся миф, что женщины моногамны, – объясняет сексолог

Полигамная женщина – особа с низкой социальной ответственностью

Cosmopolitan
Кто такой Виктор Столбун и как ему удалось основать влиятельную секту, в которой состоял Эдуард Успенский (и где практиковали насилие и лженауку) Кто такой Виктор Столбун и как ему удалось основать влиятельную секту, в которой состоял Эдуард Успенский (и где практиковали насилие и лженауку)

Чем занимается секта Столбуна, и почему она до сих пор существует

Esquire
Итальянские каникулы Итальянские каникулы

Квартира, оформленная с уважением к итальянским традициям

AD
Джоан Рамос: Ферма Джоан Рамос: Ферма

Первая глава феминистического романа Джоан Рамос

СНОБ
Неподдельная красота: как выглядели жены советских хоккеистов Неподдельная красота: как выглядели жены советских хоккеистов

Жены советских хоккеистов: внешне хрупкие, но с огромной внутренней силой

Cosmopolitan
Гигантский прыжок космического капитализма: что значит для бизнеса отправка астронавтов Илоном Маском Гигантский прыжок космического капитализма: что значит для бизнеса отправка астронавтов Илоном Маском

Миссия SpaceX — важный символ победы частного капитала

Forbes
Творческая единица Творческая единица

У американской художницы Элайзы Дуглас есть что показать миру

Vogue
Танки слабые и всемогущие: поражения и триумфы Великой Отечественной Танки слабые и всемогущие: поражения и триумфы Великой Отечественной

На войне количество не стало качеством

Популярная механика
Как метать топоры: рассказ профессионала Как метать топоры: рассказ профессионала

Метание топора — потрясающе зрелищный вид спорта

Популярная механика
Энергетическая формула собаки Энергетическая формула собаки

Эффект от семейных дел можно попробовать просчитать с помощью формулы

СНОБ
Не взлетел: самые провальные технологические проекты Не взлетел: самые провальные технологические проекты

Технологические прорывы, которые должны были взлететь, но что-то пошло не так

Популярная механика
«Я заработал 173%»: как инвесторы смогли получить прибыль от отрицательных цен на нефть «Я заработал 173%»: как инвесторы смогли получить прибыль от отрицательных цен на нефть

Кто и как смог заработать на рекордном падении нефтяных цен

Forbes
«Меняли плитку, знаки снесли». Штраф-ловушка для автомобилистов «Меняли плитку, знаки снесли». Штраф-ловушка для автомобилистов

Странный штраф за стоянку в парковочном кармане получила автомобилистка

РБК
Открыть в приложении