Собрание негативных сценариев развития новой технологии

ForbesHi-Tech

Все страхи мира: чего боятся создатели Кодекса этики искусственного интеллекта

Денис Самсонов

Кодекс этики в сфере искусственного интеллекта, который на прошлой неделе подписал российский бизнес и правительство, не просто декларация — это собрание всех негативных сценариев развития новой технологии, которых боятся ведущие разработчики. Издатель ИД «Открытые системы» Денис Самсонов считает, что большинство из них в той или иной форме будут реализованы, а некоторые уже стали частью нашей жизни.

«По системе запретов можно понять, чем люди занимаются... Такие себе картинки с натуры», — писал в «Маятнике Фуко» Умберто Эко по поводу, далекому от проблем искусственного интеллекта (ИИ). Но эту интеллектуальную конструкцию вполне можно применить к Кодексу этики в сфере искусственного интеллекта (далее — Кодекс).

Негативные сценарии имеют свойство сбываться. Если прочесть Кодекс «на просвет», как негатив, мы увидим все опасения, возможные злоупотребления и даже сценарии на грани катастрофы, которые происходят или могут произойти в будущем. Документ каталогизирует все варианты негативного воздействия ИИ на общество и заранее дает им этическую оценку. Разработчики, или «акторы искусственного интеллекта» (в терминах документа), договариваются о том, что такое плохо в области новой технологии, при этом признавая возможность таких событий.

Пункт 1.2. «Уважение автономии и свободы воли человека»

Кодекс предписывает разработчикам ИИ «прогнозировать возможные негативные последствия для развития когнитивных способностей человека и не допускать разработку сильного искусственного интеллекта, который целенаправленно вызывает такие последствия». Иными словами, искусственный разум не должен приводить к оглуплению человечества.

Мы пока не очень понимаем, какие именно задачи из тех, что может взять на себя искусственный разум, критичны для нашего интеллектуального уровня. Если начинаешь ездить по городу с помощью навигатора, довольно быстро подсаживаешься на него и теряешь навык самостоятельно прокладывать маршрут. ИИ может выбирать для нас оптимальные одежду, книги, музыку, партнера, машину, билет на самолет, курорт для отпуска, сотрудников, работу, банк. Положившись на ИИ, мы можем поглупеть. Разработчики технологии считают,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

5 самых загадочных мест России 5 самых загадочных мест России

У нас тоже есть замки и даже целые университеты с привидениями

Maxim
Бегущий по лезвию Бегущий по лезвию

История уникального человека по имени Джон Макафи

Playboy
Следствие на крови Следствие на крови

Каким пыткам подвергался сын Петра I

Дилетант
Художник, случайно сорвавший маску с человечества: жизнь и творчество классика современного искусства Олега Целкова Художник, случайно сорвавший маску с человечества: жизнь и творчество классика современного искусства Олега Целкова

Олег Целков — один из лидеров советского нонконформизма

Esquire
Новый Эрмитаж Новый Эрмитаж

«Возвращение блудного сына» Рембрандта и Колыванская ваза

Культура.РФ
10 самых сексуальных актрис советского кино 10 самых сексуальных актрис советского кино

Нашей десятке сексуальных актрис доминируют актрисы комедий да мюзиклов

Maxim
10 возмужавших сыновей зарубежных звезд – Спирс, Броснана и других 10 возмужавших сыновей зарубежных звезд – Спирс, Броснана и других

Как выросли сыновья зарубежных звезд

Cosmopolitan
Ледянка VS снегокат: на чем лучше и безопаснее кататься с горки грядущей зимой Ледянка VS снегокат: на чем лучше и безопаснее кататься с горки грядущей зимой

Самые популярные варианты средств для катания с горки

Cosmopolitan
Что будет, если есть один раз в день: отзывы о необычной диете Что будет, если есть один раз в день: отзывы о необычной диете

В чем суть OMAD-диеты?

Cosmopolitan
Электрошок: прошлое и настоящее Электрошок: прошлое и настоящее

Так ли страшна процедура электрошока на самом деле?

Psychologies
Интервью с рестораторами Надеждой Пак и Александром Брайловским Интервью с рестораторами Надеждой Пак и Александром Брайловским

Основатели кафе рассказали, какие существуют правила семейного счастья

Cosmopolitan
Убила мужа, провела в тюрьме 18 лет и… счастлива: история Патриции Гуччи Убила мужа, провела в тюрьме 18 лет и… счастлива: история Патриции Гуччи

Кем была «черная вдова» семьи Гуччи

Cosmopolitan
В главных ролях В главных ролях

Такое чувство, что Любовь Аксёнова никогда не отдыхает от кино

Cosmopolitan
Андрей Фоменко Андрей Фоменко

Миллиардер и глава холдинга «Империя» Андрей Фоменко

Собака.ru
Какая ж ты зараза: что делать с герпесом на губах Какая ж ты зараза: что делать с герпесом на губах

Что нужно знать о герпесе на губах?

РБК
Анонимы и спекулянты: стал ли арт-рынок прозрачнее благодаря блокчейну Анонимы и спекулянты: стал ли арт-рынок прозрачнее благодаря блокчейну

Анализируем самые громкие сделки по продаже NFT-искусства в 2021 году

Forbes
Лучшие игрушки в СССР — железные дороги и модели из ГДР Лучшие игрушки в СССР — железные дороги и модели из ГДР

Рассказываем, на что спускали все деньги советские мальчики

Maxim
«Я в тупике»: как преодолеть кризис и не потерять себя «Я в тупике»: как преодолеть кризис и не потерять себя

Что поможет пережить трудные времена

Psychologies
Три лучших в мире фильма про автомобили, которые ты, скорее всего, не видел Три лучших в мире фильма про автомобили, которые ты, скорее всего, не видел

Современные фильмы про автомобили — как высокобюджетное порно

Maxim
Эксперт рассказал, какие позы для сна выбирают пары с самыми крепкими отношениями Эксперт рассказал, какие позы для сна выбирают пары с самыми крепкими отношениями

А ты спишь кабанчиком или ложечками?

Playboy
Раскулачить Маска: кому не дают покоя деньги богатейшего человека мира Раскулачить Маска: кому не дают покоя деньги богатейшего человека мира

Кто предлагает поделить деньги Маска и есть ли они у него?

Forbes
10 необычных способов быстро уснуть 10 необычных способов быстро уснуть

Как уснуть, если подсчет овец и глубокое дыхание уже не помогают?

Psychologies
Есть можно всегда: что такое грязное голодание Есть можно всегда: что такое грязное голодание

Диета, при которой необходимо есть в определенный интервал в течении дня

Cosmopolitan
Наполеон III: тень дяди-корсиканца Наполеон III: тень дяди-корсиканца

Племянник Наполеона I отчаянно пытался обрести славу великого полководца

Дилетант
Сообразили на троих Сообразили на троих

Александр Цыпкин стал амбассадором компании, продающей товары для взрослых

Playboy
Культурные коды экономики: почему в России существуют две разные страны Культурные коды экономики: почему в России существуют две разные страны

Почему Россию все время бросает в разные крайности?

Forbes
Back in the U.S.S.R. Back in the U.S.S.R.

Что рекомендовали советским женщинам журналы 70–80-х годов?

Cosmopolitan
Настоящая фея-крестная: главная спасительница по знаку зодиака - кто она? Настоящая фея-крестная: главная спасительница по знаку зодиака - кто она?

Кто из знаков зодиака готов всю себя положить, чтобы помочь другим

Cosmopolitan
Генная терапия: как лечат генетические заболевания Генная терапия: как лечат генетические заболевания

Современная наука упорно ищет возможность «отремонтировать» мутировавшие гены

Популярная механика
Болельщик, управляющий командой: как звезда баскетбола стала венчурным инвестором Болельщик, управляющий командой: как звезда баскетбола стала венчурным инвестором

Рене Монтгомери завершила спортивную карьеру и переквалифицировалась в инвестора

Forbes
Открыть в приложении