Собрание негативных сценариев развития новой технологии

ForbesHi-Tech

Все страхи мира: чего боятся создатели Кодекса этики искусственного интеллекта

Денис Самсонов

Кодекс этики в сфере искусственного интеллекта, который на прошлой неделе подписал российский бизнес и правительство, не просто декларация — это собрание всех негативных сценариев развития новой технологии, которых боятся ведущие разработчики. Издатель ИД «Открытые системы» Денис Самсонов считает, что большинство из них в той или иной форме будут реализованы, а некоторые уже стали частью нашей жизни.

«По системе запретов можно понять, чем люди занимаются... Такие себе картинки с натуры», — писал в «Маятнике Фуко» Умберто Эко по поводу, далекому от проблем искусственного интеллекта (ИИ). Но эту интеллектуальную конструкцию вполне можно применить к Кодексу этики в сфере искусственного интеллекта (далее — Кодекс).

Негативные сценарии имеют свойство сбываться. Если прочесть Кодекс «на просвет», как негатив, мы увидим все опасения, возможные злоупотребления и даже сценарии на грани катастрофы, которые происходят или могут произойти в будущем. Документ каталогизирует все варианты негативного воздействия ИИ на общество и заранее дает им этическую оценку. Разработчики, или «акторы искусственного интеллекта» (в терминах документа), договариваются о том, что такое плохо в области новой технологии, при этом признавая возможность таких событий.

Пункт 1.2. «Уважение автономии и свободы воли человека»

Кодекс предписывает разработчикам ИИ «прогнозировать возможные негативные последствия для развития когнитивных способностей человека и не допускать разработку сильного искусственного интеллекта, который целенаправленно вызывает такие последствия». Иными словами, искусственный разум не должен приводить к оглуплению человечества.

Мы пока не очень понимаем, какие именно задачи из тех, что может взять на себя искусственный разум, критичны для нашего интеллектуального уровня. Если начинаешь ездить по городу с помощью навигатора, довольно быстро подсаживаешься на него и теряешь навык самостоятельно прокладывать маршрут. ИИ может выбирать для нас оптимальные одежду, книги, музыку, партнера, машину, билет на самолет, курорт для отпуска, сотрудников, работу, банк. Положившись на ИИ, мы можем поглупеть. Разработчики технологии считают,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Самая загадочная утопленница в мире Самая загадочная утопленница в мире

История Незнакомки из Сены: факты, версии, мистификации.

Maxim
Здоровый перекус: Что есть, чтобы не набирать вес Здоровый перекус: Что есть, чтобы не набирать вес

Что можно съесть на бегу, не беспокоясь при этом о фигуре?

Лиза
«Глаза» для беспилотников «Глаза» для беспилотников

Автомобили с круглой нашлепкой на крыше сегодня на дорогах уже не редкость

Популярная механика
Разработчик дисплеев дополненной реальности WayRay создал электромобиль для зумеров Разработчик дисплеев дополненной реальности WayRay создал электромобиль для зумеров

WayRay создала трехместный электрокар с дисплеями дополненной реальности

Forbes
От Мадонны до Агилеры: звезды с «уехавшими» имплантами От Мадонны до Агилеры: звезды с «уехавшими» имплантами

Даже самые известные пластические хирурги могут сделать работу некачественно

Cosmopolitan
Опасности метавселенных: что прогнозируют фантасты Опасности метавселенных: что прогнозируют фантасты

Книги о том, какие опасности могут сулить метавселенные

Популярная механика
Химики оценили эффективность переработки океанского пластикового мусора на борту корабля Химики оценили эффективность переработки океанского пластикового мусора на борту корабля

Работа кораблей-мусорщиков выгоднее, чем транспортировка мусора на берег

N+1
«Москвич» и москвичи. Интервью с директором Музея транспорта Оксаной Бондаренко о культовых авто, Цое и сторис в инстаграме «Москвич» и москвичи. Интервью с директором Музея транспорта Оксаной Бондаренко о культовых авто, Цое и сторис в инстаграме

Директриса Музея транспорта Москвы — об урбанистике и музеях будущего

СНОБ
Как вывести пятна от пота в домашних условиях Как вывести пятна от пота в домашних условиях

Как удалить пятна пота с одежды светлых и темных оттенков

VOICE
Под штукатуркой в британском поместье нашли настенные росписи XVI века Под штукатуркой в британском поместье нашли настенные росписи XVI века

Три стены комнаты поместья полностью украсили еще во времена Тюдоров

N+1
Фрагменты Врубеля Фрагменты Врубеля

Путеводитель по самой большой выставке художника за последние 65 лет

Weekend
Не просто упаковка для еды, но и предмет искусства: история коробок для пиццы, рынок которых оценивается в $2 млрд Не просто упаковка для еды, но и предмет искусства: история коробок для пиццы, рынок которых оценивается в $2 млрд

Как появились коробки для пиццы из гофрокартона

VC.RU
Стрижка «веник»: что мы знаем о горячем hair-тренде этой зимы Стрижка «веник»: что мы знаем о горячем hair-тренде этой зимы

Чем прическа «веник» отличается от классического боба

Cosmopolitan
Я знаю три буквы: зачем звезды выходят на рынок NFT? Разбираемся вместе с группой Little Big Я знаю три буквы: зачем звезды выходят на рынок NFT? Разбираемся вместе с группой Little Big

Все больше работников креативных индустрий создают NFT-контент

Esquire
Археологи нашли в Южном Туркменистане поселение цивилизации Окса Археологи нашли в Южном Туркменистане поселение цивилизации Окса

Археологи обследовали участок В Южном Туркменистане

N+1
Биологи нашли гены долголетия тихоокеанских окуней Биологи нашли гены долголетия тихоокеанских окуней

Биологи выявили гены, связанные с высокой продолжительностью жизни у окуней

N+1
Алена Шишкова: «У нас совсем нет поводов конфликтовать с Анастасией Решетовой» Алена Шишкова: «У нас совсем нет поводов конфликтовать с Анастасией Решетовой»

Модель Алена Шишкова дала эксклюзивное интервью

Cosmopolitan
«Прошлой ночью в Сохо»: коктейль из «Полночи в Париже» и «Неонового демона» «Прошлой ночью в Сохо»: коктейль из «Полночи в Париже» и «Неонового демона»

Стоит ли смотреть ностальгический джалло-хоррор от Эдгара Райта

Cosmopolitan
5 советов, как выбрать действительно экологичные продукты и не попасться на крючок маркетологов 5 советов, как выбрать действительно экологичные продукты и не попасться на крючок маркетологов

На что обратить внимание, чтобы выбрать экологичную продукцию

Популярная механика
Как бизнесу искать и нанимать дефицитных айтишников Как бизнесу искать и нанимать дефицитных айтишников

От нехватки кадров на IT-рынке устали все

Inc.
Марафон желаний Марафон желаний

Зачем мы загадываем желания?

Psychologies
Продаёт на сотни миллионов долларов и занимает треть рынка настольных игр: почему «Монополия» стала популярной Продаёт на сотни миллионов долларов и занимает треть рынка настольных игр: почему «Монополия» стала популярной

История «Монополии»: как настольная игра покорила сердца миллионов

VC.RU
Сергей Долмов: Как бороться с пьяными водителями Сергей Долмов: Как бороться с пьяными водителями

Пьяные водители стали самым настоящим бичом российских автодорог

СНОБ
Исследование: россиянки начинают бизнес из-за безработицы и идут на глобальный рынок Исследование: россиянки начинают бизнес из-за безработицы и идут на глобальный рынок

Каждый третий владелец растущего бизнеса в мире — женщина

Forbes
Совсем как женщина: Алина Фаркаш о феминистках и женском счастье Совсем как женщина: Алина Фаркаш о феминистках и женском счастье

Феминистка искренне уверена, что она ценна и прекрасна сама по себе

Cosmopolitan
Опростоволосились: 9 роковых красавиц, которых испортил блонд Опростоволосились: 9 роковых красавиц, которых испортил блонд

Звезды, решившиеся на блонд, который оказался им не к лицу

VOICE
Археологи раскопали поселение первых металлургов и скотоводов Алтая Археологи раскопали поселение первых металлургов и скотоводов Алтая

Ученые завершили работы на памятнике афанасьевской культуры Нижняя Соору

N+1
От femme fatale до супергероев и андроидов: эволюция киногероев за последние 100 лет От femme fatale до супергероев и андроидов: эволюция киногероев за последние 100 лет

Какие типажи героев появились в кино за последние 100 лет?

Esquire
10 захватывающих фильмов и сериалов о  женщинах, перевернувших мир 10 захватывающих фильмов и сериалов о  женщинах, перевернувших мир

Фильмы и сериалы, которые лучше всего показывают женщин-лидеров

Cosmopolitan
Антропологи нашли на Карибах череп старейшего прокаженного Америки Антропологи нашли на Карибах череп старейшего прокаженного Америки

На Карибах мог функционировать лепрозорий

N+1
Открыть в приложении