Собрание негативных сценариев развития новой технологии

ForbesHi-Tech

Все страхи мира: чего боятся создатели Кодекса этики искусственного интеллекта

Денис Самсонов

Кодекс этики в сфере искусственного интеллекта, который на прошлой неделе подписал российский бизнес и правительство, не просто декларация — это собрание всех негативных сценариев развития новой технологии, которых боятся ведущие разработчики. Издатель ИД «Открытые системы» Денис Самсонов считает, что большинство из них в той или иной форме будут реализованы, а некоторые уже стали частью нашей жизни.

«По системе запретов можно понять, чем люди занимаются... Такие себе картинки с натуры», — писал в «Маятнике Фуко» Умберто Эко по поводу, далекому от проблем искусственного интеллекта (ИИ). Но эту интеллектуальную конструкцию вполне можно применить к Кодексу этики в сфере искусственного интеллекта (далее — Кодекс).

Негативные сценарии имеют свойство сбываться. Если прочесть Кодекс «на просвет», как негатив, мы увидим все опасения, возможные злоупотребления и даже сценарии на грани катастрофы, которые происходят или могут произойти в будущем. Документ каталогизирует все варианты негативного воздействия ИИ на общество и заранее дает им этическую оценку. Разработчики, или «акторы искусственного интеллекта» (в терминах документа), договариваются о том, что такое плохо в области новой технологии, при этом признавая возможность таких событий.

Пункт 1.2. «Уважение автономии и свободы воли человека»

Кодекс предписывает разработчикам ИИ «прогнозировать возможные негативные последствия для развития когнитивных способностей человека и не допускать разработку сильного искусственного интеллекта, который целенаправленно вызывает такие последствия». Иными словами, искусственный разум не должен приводить к оглуплению человечества.

Мы пока не очень понимаем, какие именно задачи из тех, что может взять на себя искусственный разум, критичны для нашего интеллектуального уровня. Если начинаешь ездить по городу с помощью навигатора, довольно быстро подсаживаешься на него и теряешь навык самостоятельно прокладывать маршрут. ИИ может выбирать для нас оптимальные одежду, книги, музыку, партнера, машину, билет на самолет, курорт для отпуска, сотрудников, работу, банк. Положившись на ИИ, мы можем поглупеть. Разработчики технологии считают,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Где лечиться? Где лечиться?

В какую поликлинику идти – государственную или частную

Домашний Очаг
Пластический хирург Тимур Хайдаров — Forbes: «Покажи, что ты гений» Пластический хирург Тимур Хайдаров — Forbes: «Покажи, что ты гений»

Пластический хирург — как выделиться из толпы в условиях жесткой конкуренции

Forbes
Кодекс поведения робота Кодекс поведения робота

В чем заключаются ключевые проблемы взаимодействия человека и ИИ

Популярная механика
Физики впервые смоделировали адроны на квантовом компьютере Физики впервые смоделировали адроны на квантовом компьютере

Физики вычислили массы легчайших адронов

N+1
Not Home Anymore: каким мир запомнит Вирджила Абло Not Home Anymore: каким мир запомнит Вирджила Абло

Вирджил Абло: кого внезапно лишилась не только фэшн-индустрия, но и весь мир

Esquire
Дыши глубже! Дыши глубже!

10 комнатных растений, которые очищают и обеззараживают воздух в квартире

Лиза
Безопасные инвестиции. Что надо знать новичку на фондовом рынке Безопасные инвестиции. Что надо знать новичку на фондовом рынке

Чем руководствоваться, чтобы старт в инвестициях оказался эффективным?

СНОБ
Гигиена в критические дни: какое средство выбрать? Гигиена в критические дни: какое средство выбрать?

Существует ли идеальное гигиеническое средство на время менструации?

Psychologies
Первый прикорм Первый прикорм

Как вводить прикорм правильно, чтобы у ребенка не было проблем с животиком

Лиза
Зачем на каждый Новый год наряжают ёлку? Зачем на каждый Новый год наряжают ёлку?

Откуда взялась мода украшать на Новый Год и Рождество хвойные деревья

Cosmopolitan
Как Instagram мешает нам адекватно воспринимать собственное тело Как Instagram мешает нам адекватно воспринимать собственное тело

Контент из Instagram может привести к развитию расстройств пищевого поведения

Psychologies
Невероятное будущее: футуролог о том, как изменится наша жизнь через 15 лет Невероятное будущее: футуролог о том, как изменится наша жизнь через 15 лет

Наши родители бы сказали, что это невозможно

Playboy
Ей 21, ему 59: что известно о мисс Россия-2018, родившей дочь миллиардеру Тарико Ей 21, ему 59: что известно о мисс Россия-2018, родившей дочь миллиардеру Тарико

У Рустама Тарико новая возлюбленная

Cosmopolitan
Андрей Фоменко Андрей Фоменко

Миллиардер и глава холдинга «Империя» Андрей Фоменко

Собака.ru
Каких героев «Великолепного века» не существовало на самом деле? Каких героев «Великолепного века» не существовало на самом деле?

Сценаристы «Великолепного века» выдумали нескольких персонажей

Cosmopolitan
Золото России: как Aurus из автомобиля стал самолетом Золото России: как Aurus из автомобиля стал самолетом

Проект, который начинался как автомобиль для президента, вырос в целую философию

Playboy
Lovv66 комментирует свой новый альбом «БЭСТ ФРЭНДС» Lovv66 комментирует свой новый альбом «БЭСТ ФРЭНДС»

Самая основная метафора альбома «БЭСТ ФРЭНДС»

GQ
На сколько можно похудеть за 2 месяца: минимум и максимум На сколько можно похудеть за 2 месяца: минимум и максимум

Какие варианты питания помогут похудеть и сколько можно сбросить за 2 месяца

Cosmopolitan
Мотивация и самоорганизация: почему управление своим состоянием — главный soft skill? Мотивация и самоорганизация: почему управление своим состоянием — главный soft skill?

Разбираемся в главном мягком навыке любого человека — управлении собой

Inc.
Материнский инстинкт Материнский инстинкт

Пенелопа Крус в фильме «Параллельные матери»

Grazia
Спи, не бойся Спи, не бойся

Чего обычно боятся и мужчины, и женщины в сексе и как себя успокоить?

Cosmopolitan
Музей вошел в моду Музей вошел в моду

Как менялся подход к выставкам моды

Weekend
Учитель и безопасность школьников. Как защитить детей от самих себя Учитель и безопасность школьников. Как защитить детей от самих себя

Как бороться с травлей в школе и что могут сделать учителя?

СНОБ
Вес слова Вес слова

Если карьера не задалась, у вас есть реальный шанс стать преуспевающим спикером

Forbes
Абсурдная статистика: как Николас Кейдж влияет на... смертность в бассейне Абсурдная статистика: как Николас Кейдж влияет на... смертность в бассейне

Корреляция между двумя явлениями ничего не говорит о причинно-следственной связи

Популярная механика
Орнитологи описали новый род и вид яркоокрашенных птиц из Боливии и Перу Орнитологи описали новый род и вид яркоокрашенных птиц из Боливии и Перу

Между первой встречей с солнечными танаграми и их описанием прошло двадцать лет

N+1
Сонник: 10 самых популярных снов и их толкование Сонник: 10 самых популярных снов и их толкование

Популярные сны, которые несут скрытый смысл

Cosmopolitan
Мириам Сехон: «Договориться о том, что для нас «Солярис» сегодня, оказалось непросто» Мириам Сехон: «Договориться о том, что для нас «Солярис» сегодня, оказалось непросто»

Мириам Сехон — о спектакле Solaris и виртуальной реальности

Grazia
Василий Кандинский. Голос сердца Василий Кандинский. Голос сердца

Эти предзакатные минуты в Москве Василий Васильевич всегда особенно любил

Караван историй
Где пролегают границы в здоровых отношениях и как их строить Где пролегают границы в здоровых отношениях и как их строить

Нам нужно учиться выстраивать границы в отношениях. Это непросто, но возможно

Psychologies
Открыть в приложении