Почему сверхразум может уничтожить людей всего за одну секунду

EsquireОбщество

Чем опасен искусственный интеллект и почему сверхразум может уничтожить людей всего за одну секунду

Стивен Хокинг, Илон Маск и другие ученые и изобретатели считают искусственный интеллект угрозой жизни на Земле. Директор Института будущего человечества в Оксфорде и автор бестселлера Superintelligence: Paths, Dangers, Strategies Ник Бостром рассказал Esquire, почему сверхразум может уничтожить людей всего за одну секунду.

В узких областях возможности искусственного интеллекта уже намного превышают человеческие: Гарри Каспаров, чемпион мира по шахматам, проиграл программе Deep Blue в далеком 1997 году. Поисковые запросы, распознавание речи, логистика — в этом специализированные системы лучше нас. Но на самом деле они пока не обладают мышлением как таковым, и никто сейчас не знает, когда будет изобретен настоящий искусственный интеллект.

Большинство ученых сходятся во мнении, что вероятность его появления до середины XXI века — 50%. Прогноз очень абстрактный, и очевидно, что произойти это может как намного раньше, так и гораздо позже. В 1940-х годах, когда были созданы первые компьютеры, ученые предсказывали появление машин, превосходящих интеллект человека, к 1960-м. Прогноз не сбылся, но уже тогда математик Ирвинг Джон Гуд, работавший во время Второй Мировой войны над взломом немецких шифров в команде Алана Тьюринга, предупреждал: «Сверхумная машина — последнее изобретение, которое предстоит сделать человечеству, при условии, конечно, что эта машина будет нас слушаться и укажет, как ее контролировать». Другими словами, первый же искусственный интеллект, созданный людьми, с большой вероятностью будет стремиться к неограниченному овладению ресурсами, а его цели никак не будут связаны с благом человечества. Если учесть, что люди состоят из полезных ресурсов — таких, например, как организованные в определенном порядке молекулы — и сами зависят от множества земных ресурсов, одним из наиболее вероятных последствий появления искусственного интеллекта станет полное исчезновение человечества. Представьте, что перед носителем сверхразума зачем-то встала задача максимально увеличить производство скрепок для бумаги. В этой связи у него будут как минимум две причины уничтожить человечество: чтобы мы не смогли ему каким-то образом помешать и чтобы использовать наши

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Иммунитет от хамства: как реагировать на грубость Иммунитет от хамства: как реагировать на грубость

Как защититься от хамства, не опускаясь до него?

Psychologies
«Смотри, как я могу». Биатлонист, ортопед и реаниматолог обсуждают спортивные травмы «Смотри, как я могу». Биатлонист, ортопед и реаниматолог обсуждают спортивные травмы

Дискуссия о том, почему важно быть внимательным к спортивным травмам

СНОБ
Психолог Алексей Красиков — о причинах неврозов и панических атак Психолог Алексей Красиков — о причинах неврозов и панических атак

Как развить эмоциональный интеллект и избавиться от внутренних конфликтов.

РБК
4 имитации Марса на Земле 4 имитации Марса на Земле

О том, что удалось выяснить о жизни на красной планете

Популярная механика
Минный пол Минный пол

20 вещей, которых мы боимся в женщинах

Maxim
Инвестировали, спасали бизнес и готовились к переделу: как вели себя состоятельные клиенты ВТБ в кризис Инвестировали, спасали бизнес и готовились к переделу: как вели себя состоятельные клиенты ВТБ в кризис

Что делали состоятельные клиенты ВТБ во время кризиса

Forbes
Американская космическая мечта Американская космическая мечта

Илон Маск вернул веру американцев в собственные космические запуски

Эксперт
Что такое «социальный статус» слова Что такое «социальный статус» слова

Как изменения в языке отражаются на нас

СНОБ
По другим правилам По другим правилам

Мы то и дело слышим, что после пандемии мир не будет прежним

Добрые советы
«Иронов решает PR-задачи, а не функциональные» — мнения дизайнеров и специалистов по ИИ о нейросети «Студии Лебедева» «Иронов решает PR-задачи, а не функциональные» — мнения дизайнеров и специалистов по ИИ о нейросети «Студии Лебедева»

Что думают специалисты и дизайнеры о нейросети «Студии Лебедева»

VC.RU
В зеркале чужих взглядов В зеркале чужих взглядов

Мы все нуждаемся в оценках окружающих, в их реакциях на наши слова и поступки

Psychologies
Почему в России поймут лозунг американских протестов Почему в России поймут лозунг американских протестов

Граждане России понимают, что такое не иметь привилегий в общении с силовиками

СНОБ
Без паники, Илон. 8 автомобилей, которые могли улететь в космос Без паники, Илон. 8 автомобилей, которые могли улететь в космос

Проекты, которые способны удивить главу Tesla

РБК
У западного побережья Гренландии обнаружили коралловые сады У западного побережья Гренландии обнаружили коралловые сады

У западного побережья Греландии обнаружили богатые жизнью экосистемы

N+1
Не время хоронить Не время хоронить

Василий Степанов о первом фильме фем-бондианы

Weekend
Электростанция внутри: что такое митохондрии и чем они важны Электростанция внутри: что такое митохондрии и чем они важны

Внутри тела скрыт источник энергии, от которого зависит наше здоровье

Psychologies
Чтобы кожа сияла Чтобы кожа сияла

Всего за неделю у моря кожа становится ухоженной и отдохнувшей

Худеем правильно
9 языков программирования, которые помогут зарабатывать до $150 тыс. в год 9 языков программирования, которые помогут зарабатывать до $150 тыс. в год

Рейтинг языков программирования по возрастанию дохода

Inc.
Вчера, не сегодня, завтра Вчера, не сегодня, завтра

Чего ждут от нашего кино иностранцы и что им предлагают взамен

Огонёк
Изобретательное меньшинство Изобретательное меньшинство

Последнюю субботу июня в России отмечают день изобретателя и рационализатора

Огонёк
10 правил для фигуры мечты 10 правил для фигуры мечты

Вы хотите скинуть несколько лишних килограммов и быстро прийти в форму?

Здоровье
Реформа федерализма 2.0. Почему Ненецкий округ не объединяется с Архангельской областью Реформа федерализма 2.0. Почему Ненецкий округ не объединяется с Архангельской областью

Почему жители НАО выступают против объединения

СНОБ
«Древо жизни»: почему нам важно знать историю своего рода «Древо жизни»: почему нам важно знать историю своего рода

О том, почему нам нужно знать о собственных корнях

Psychologies
10 самых скандальных фильмов всех времен 10 самых скандальных фильмов всех времен

Жестокие, провокационные и (неспроста) запрещенные к прокату ленты

Esquire
Почему сосновая хвоя полезна против вредных бактерий Почему сосновая хвоя полезна против вредных бактерий

Экстракты хвои активны против грамотрицательных бактерий

Популярная механика
Сооснователь проекта «Много лосося» — о «темной кухне» и кризисе Сооснователь проекта «Много лосося» — о «темной кухне» и кризисе

Основатель «Много лосося» об шершавых пиццах и роботах для сборке поке.

РБК
Мясной клуб Мясной клуб

Даже в разгар сезона овощей многие не мыслят жизни без мяса

Худеем правильно
В сердцах шимпанзе обнаружили кости В сердцах шимпанзе обнаружили кости

В сердце шимпанзе впервые обнаружили костные структуры

N+1
Манграм предрекли вымирание из-за антропогенного повышения уровня моря Манграм предрекли вымирание из-за антропогенного повышения уровня моря

Повышение уровня моря станет угрозой мангровым лесам к 2050 году

N+1
Почему комары кусают не всех Почему комары кусают не всех

Комары кусают не всех — это факт

Наука и жизнь
Открыть в приложении