Собрание негативных сценариев развития новой технологии

ForbesHi-Tech

Все страхи мира: чего боятся создатели Кодекса этики искусственного интеллекта

Денис Самсонов

Кодекс этики в сфере искусственного интеллекта, который на прошлой неделе подписал российский бизнес и правительство, не просто декларация — это собрание всех негативных сценариев развития новой технологии, которых боятся ведущие разработчики. Издатель ИД «Открытые системы» Денис Самсонов считает, что большинство из них в той или иной форме будут реализованы, а некоторые уже стали частью нашей жизни.

«По системе запретов можно понять, чем люди занимаются... Такие себе картинки с натуры», — писал в «Маятнике Фуко» Умберто Эко по поводу, далекому от проблем искусственного интеллекта (ИИ). Но эту интеллектуальную конструкцию вполне можно применить к Кодексу этики в сфере искусственного интеллекта (далее — Кодекс).

Негативные сценарии имеют свойство сбываться. Если прочесть Кодекс «на просвет», как негатив, мы увидим все опасения, возможные злоупотребления и даже сценарии на грани катастрофы, которые происходят или могут произойти в будущем. Документ каталогизирует все варианты негативного воздействия ИИ на общество и заранее дает им этическую оценку. Разработчики, или «акторы искусственного интеллекта» (в терминах документа), договариваются о том, что такое плохо в области новой технологии, при этом признавая возможность таких событий.

Пункт 1.2. «Уважение автономии и свободы воли человека»

Кодекс предписывает разработчикам ИИ «прогнозировать возможные негативные последствия для развития когнитивных способностей человека и не допускать разработку сильного искусственного интеллекта, который целенаправленно вызывает такие последствия». Иными словами, искусственный разум не должен приводить к оглуплению человечества.

Мы пока не очень понимаем, какие именно задачи из тех, что может взять на себя искусственный разум, критичны для нашего интеллектуального уровня. Если начинаешь ездить по городу с помощью навигатора, довольно быстро подсаживаешься на него и теряешь навык самостоятельно прокладывать маршрут. ИИ может выбирать для нас оптимальные одежду, книги, музыку, партнера, машину, билет на самолет, курорт для отпуска, сотрудников, работу, банк. Положившись на ИИ, мы можем поглупеть. Разработчики технологии считают,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«История смерти. Как мы боремся и принимаем» «История смерти. Как мы боремся и принимаем»

Как с течением времени менялось отношение человека к неизбежному концу

N+1
«Паутинки» и «звездочки»: что такое купероз и как его лечить «Паутинки» и «звездочки»: что такое купероз и как его лечить

Почему появляются звездочки из сосудов и что с ними делать?

РБК
Разгадали знак «бесконечность» Разгадали знак «бесконечность»

Что поможет нам оставаться молодыми и каковы наши шансы на бессмертие?

Vogue
Весят меньше 60 кг: как выглядят чемпионы по скоростному поеданию еды Весят меньше 60 кг: как выглядят чемпионы по скоростному поеданию еды

Как выглядят участники соревнований по скоростному поеданию

Cosmopolitan
О чем думают девушки, когда занимаются сексом на одну ночь? О чем думают девушки, когда занимаются сексом на одну ночь?

Какие подводные камни кроются за согласием «просто разок поехать к тебе»

Maxim
Перезагрузка Перезагрузка

Удалось ли вернуть к жизни сериал "Декстер" после восьмилетнего забвения

Esquire
«Разбогатеть нам мешают внутренние демоны» «Разбогатеть нам мешают внутренние демоны»

Говорим с коучем о новой валюте – энергии

Psychologies
Валерий Плотников. Друзей моих прекрасные черты Валерий Плотников. Друзей моих прекрасные черты

Валерий Плотников рассказывает, как он создавал портреты легендарных личностей

Караван историй
Эмоции мешают думать: чему можно научиться у Майкла Корлеоне Эмоции мешают думать: чему можно научиться у Майкла Корлеоне

Чему можно научиться у мафиози Майкла Корлеоне

Esquire
Путеводитель по женской груди: 45 фактов о двух аргументах Путеводитель по женской груди: 45 фактов о двух аргументах

Научный мир по нашей просьбе бросился на изучение женской груди

Maxim
Доминируй, подчиняйся. Что люди ищут и находят в БДСМ-практиках Доминируй, подчиняйся. Что люди ищут и находят в БДСМ-практиках

Как на самом деле доминирование и подчинение помогают избавиться от травм

СНОБ
Большой город Большой город

Почему большие города не теряют своего значения и продолжают увеличиваться

Esquire
5 минутные детективы 5 минутные детективы

Архивные пятиминутные детективы

Esquire
Беспроигрышная лотерея Беспроигрышная лотерея

Зачем аналитики и экономисты делают неверные прогнозы и не останавливаются

Forbes
Секретные факты о рептилоидах Секретные факты о рептилоидах

Срываем покровы с истинных хозяев планеты

Maxim
Рацион для похудения мужчины: как убрать «прежних ошибок груз» Рацион для похудения мужчины: как убрать «прежних ошибок груз»

Диета для мужчин: как убрать живот и бока

Cosmopolitan
Обязаны ли дети ухаживать за престарелыми родителями? Обязаны ли дети ухаживать за престарелыми родителями?

В каких случаях уход за ближайшими родственниками стоит переложить на других?

Psychologies
Первое интервью партнера Бориса Александрова Юрия Изачика Первое интервью партнера Бориса Александрова Юрия Изачика

Юрий Изачик — как решались вопросы с наследниками при жизни Александрова

Forbes
Бюджет: каждому свое? Бюджет: каждому свое?

Следует ли нам обсуждать с партнером свои финансы?

Psychologies
Лилия Бурдинская Лилия Бурдинская

Танц-художница и основательница центра Bye Bye Ballet Лилия Бурдинская

Собака.ru
То смех, то слезы: как общаться с экзальтированными людьми То смех, то слезы: как общаться с экзальтированными людьми

Что значит экзальтированный человек и как с ним быть?

РБК
Алкогений: Анри де Тулуз-Лотрек Алкогений: Анри де Тулуз-Лотрек

Анри де Тулуз-Лотрек — один из ярких художников своего времени и певец порока!

Maxim
5 креативных бизнес-идей 5 креативных бизнес-идей

Как наводнение превратилось в фишку ресторана, а такси – в плантацию огурцов

Playboy
Алексей Володин: «Страхование киберрисков займет до 50% рынка» Алексей Володин: «Страхование киберрисков займет до 50% рынка»

Алексей Володин о том, почему тарифы неизбежно будут повышаться

РБК
Как менялась Анфиса Чехова: вес 100 кг, комплексы и фотошоп — в прошлом Как менялась Анфиса Чехова: вес 100 кг, комплексы и фотошоп — в прошлом

Снимки Анфисы Чеховой, сделанные в разные годы. Процесс преображения теледивы

VOICE
Микролазер в форме ленты Мёбиуса помог разобраться с геодезическими линиями Микролазер в форме ленты Мёбиуса помог разобраться с геодезическими линиями

Физики изготовили микролазер в форме ленты Мёбиуса

N+1
Анна Павлова: как русская балерина превратилась в десерт Анна Павлова: как русская балерина превратилась в десерт

Кто придумал десерт «Павлова» и причем здесь балет?

Cosmopolitan
Тили-тили тесто: выпечка по рецептам шеф-повара Александра Семыкина Тили-тили тесто: выпечка по рецептам шеф-повара Александра Семыкина

Выпечка по рецептам шефа ресторана «Пирог мясника» покорит любого

Cosmopolitan
Скорпион или Дева: самый милый знак зодиака среди женщин Скорпион или Дева: самый милый знак зодиака среди женщин

Какой знак зодиака самый милый у женщин

Cosmopolitan
Право не быть роботом. Что вы знаете о робоэтике Право не быть роботом. Что вы знаете о робоэтике

Что мы упускаем в «законах робототехники» Айзека Азимова?

Популярная механика
Открыть в приложении