Почему сверхразум может уничтожить людей всего за одну секунду

EsquireОбщество

Чем опасен искусственный интеллект и почему сверхразум может уничтожить людей всего за одну секунду

Стивен Хокинг, Илон Маск и другие ученые и изобретатели считают искусственный интеллект угрозой жизни на Земле. Директор Института будущего человечества в Оксфорде и автор бестселлера Superintelligence: Paths, Dangers, Strategies Ник Бостром рассказал Esquire, почему сверхразум может уничтожить людей всего за одну секунду.

В узких областях возможности искусственного интеллекта уже намного превышают человеческие: Гарри Каспаров, чемпион мира по шахматам, проиграл программе Deep Blue в далеком 1997 году. Поисковые запросы, распознавание речи, логистика — в этом специализированные системы лучше нас. Но на самом деле они пока не обладают мышлением как таковым, и никто сейчас не знает, когда будет изобретен настоящий искусственный интеллект.

Большинство ученых сходятся во мнении, что вероятность его появления до середины XXI века — 50%. Прогноз очень абстрактный, и очевидно, что произойти это может как намного раньше, так и гораздо позже. В 1940-х годах, когда были созданы первые компьютеры, ученые предсказывали появление машин, превосходящих интеллект человека, к 1960-м. Прогноз не сбылся, но уже тогда математик Ирвинг Джон Гуд, работавший во время Второй Мировой войны над взломом немецких шифров в команде Алана Тьюринга, предупреждал: «Сверхумная машина — последнее изобретение, которое предстоит сделать человечеству, при условии, конечно, что эта машина будет нас слушаться и укажет, как ее контролировать». Другими словами, первый же искусственный интеллект, созданный людьми, с большой вероятностью будет стремиться к неограниченному овладению ресурсами, а его цели никак не будут связаны с благом человечества. Если учесть, что люди состоят из полезных ресурсов — таких, например, как организованные в определенном порядке молекулы — и сами зависят от множества земных ресурсов, одним из наиболее вероятных последствий появления искусственного интеллекта станет полное исчезновение человечества. Представьте, что перед носителем сверхразума зачем-то встала задача максимально увеличить производство скрепок для бумаги. В этой связи у него будут как минимум две причины уничтожить человечество: чтобы мы не смогли ему каким-то образом помешать и чтобы использовать наши

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

С места наверх С места наверх

Настоящая история человека, который первым на Земле просто взял и полетел

Популярная механика
Следы крупных птерозавров в Корее приписали наземным двуногим крокодиломорфам Следы крупных птерозавров в Корее приписали наземным двуногим крокодиломорфам

Считалось, что большие птерозавры передвигались по земле на задних конечностях

N+1
От чего умер Ленин? От чего умер Ленин?

На момент смерти Ленину было всего 53 года. На здоровье он никогда не жаловался

Дилетант
Виктор Цой — человек своей эпохи или «вечный подросток»? Виктор Цой — человек своей эпохи или «вечный подросток»?

Виктор Цой — порождение и отражение определенной эпохи и музыкант на все времена

Psychologies
Лобковых вшей нашли на ресницах восьмилетней девочки Лобковых вшей нашли на ресницах восьмилетней девочки

Редкий случай заражения ресниц восьмилетней девочки лобковыми вшами

N+1
«Ограничения или символические жертвы — это не то, что нужно экономике» «Ограничения или символические жертвы — это не то, что нужно экономике»

Как совместить заботу об экологии и повышение эффективности производства

РБК
Как вежливо отказать работодателю после собеседования: полезное руководство Как вежливо отказать работодателю после собеседования: полезное руководство

Не на каждое же предложение соглашаться

Playboy
Карта детского мира: какие города считаются лучшими для жизни с детьми Карта детского мира: какие города считаются лучшими для жизни с детьми

В этих городах хорошо жить, удобно растить и учить детей

Forbes
Выбросила тысячи велосипедов и отдала проект конкуренту: Uber купила стартап Jump, но не справилась с его развитием Выбросила тысячи велосипедов и отдала проект конкуренту: Uber купила стартап Jump, но не справилась с его развитием

Почему Uber отказалась от велошеринга Jump

VC.RU
Софья Эрнст Софья Эрнст

Масштаб персонажа Софьи Эрнст в сериале «Содержанки» растет

Собака.ru
Лениться, как Лев Толстой Лениться, как Лев Толстой

Как лев Толстой боролся с прокрастинацией и двигался к своей цели

Культура.РФ
Николай Солодников Николай Солодников

Учитель и библиотекарь запустил на YouTube проект #ещенепознер

Собака.ru
Елена Проклова, Наталья Селезнева и еще 8 советских актрис в купальниках Елена Проклова, Наталья Селезнева и еще 8 советских актрис в купальниках

Мы решили вспомнить самые яркие образы советских актрис в купальниках

Cosmopolitan
“Панголина”: уникальный суперкар-самоделка родом из СССР “Панголина”: уникальный суперкар-самоделка родом из СССР

“Панголина” — символ советского движения "самавто"

Популярная механика
Опять залип... Опять залип...

Детей сегодня не оторвать от планшета, жалуются родители

Лиза
Во всем блеске: как использовать глиттер для макияжа глаз и не только Во всем блеске: как использовать глиттер для макияжа глаз и не только

Лето – самое подходящее время для различных экспериментов с макияжем

Cosmopolitan
Крид, Загитова, Элджей: самые молодые российские звезды в рейтинге Forbes Крид, Загитова, Элджей: самые молодые российские звезды в рейтинге Forbes

Самые молодые участники рейтинга 40 самых успешных звезд России по версии Forbes

Forbes
Как устроен бункер под Белым домом, в котором спрятался Трамп в начале волнений в США Как устроен бункер под Белым домом, в котором спрятался Трамп в начале волнений в США

Последний раз этот бункер использовали во время терактов 11 сентября

Maxim
Дом Мельникова: уникальный памятник инженерной мысли Дом Мельникова: уникальный памятник инженерной мысли

Дом Мельникова — икона и символ архитектурного авангарда

Популярная механика
Задание на дом Задание на дом

Елена Шлёнкина о новых функциях дома и о своём новом опыте домашней жизни

SALON-Interior
В фильме «Основатель» вы увидите мрачную изнанку капитализма В фильме «Основатель» вы увидите мрачную изнанку капитализма

Этот фильм вовсе не реклама McDonald’s

GQ
Интервью с академиком Михаилом Предтеченским Интервью с академиком Михаилом Предтеченским

Интервью с академиком о грядущем «карбоновом веке»

СНОБ
Выручали 200 тысяч рублей в месяц, расходов мало: в чём состоял бизнес «переадресаторов» для заблокированного Telegram Выручали 200 тысяч рублей в месяц, расходов мало: в чём состоял бизнес «переадресаторов» для заблокированного Telegram

Эти сервисы еще могут пригодиться, если Facebook поссорится с Павлом Дуровым

VC.RU
Чему (на самом деле) завидуют дети? Чему (на самом деле) завидуют дети?

Почему ребенок начинает чувствовать злость и досаду по отношению к сверстнику

Psychologies
Выброс рутения в 2017 году оказался не связан с производством оружейного плутония Выброс рутения в 2017 году оказался не связан с производством оружейного плутония

Как в 2017 году в атмосферу попал рутений?

N+1
Что такое феромоны и как работают афродизиаки Что такое феромоны и как работают афродизиаки

Как работают особые молекулы запаха, придающие телу притягательность

РБК
В факторы риска преждевременной смерти включили психологические и социальные факторы В факторы риска преждевременной смерти включили психологические и социальные факторы

Риск смерти выше у разведенных или тех, кто не был доволен своей жизнью

N+1
Углеродные нанотрубки: как в России создают невозможные материалы Углеродные нанотрубки: как в России создают невозможные материалы

Российская компания OCSiAl синтезирует более 90% объема уникального материала

Популярная механика
10 отличных британских фильмов последних 10 лет, которые ты мог пропустить 10 отличных британских фильмов последних 10 лет, которые ты мог пропустить

Не все же голливудские блокбастеры смотреть!

Maxim
Почему дело против Навального не пойдет на пользу власти Почему дело против Навального не пойдет на пользу власти

Кремль рассчитывает на осуждение оппозиционера, «оклеветавшего» ветерана войны

СНОБ
Открыть в приложении