Почему сверхразум может уничтожить людей всего за одну секунду

EsquireОбщество

Чем опасен искусственный интеллект и почему сверхразум может уничтожить людей всего за одну секунду

Стивен Хокинг, Илон Маск и другие ученые и изобретатели считают искусственный интеллект угрозой жизни на Земле. Директор Института будущего человечества в Оксфорде и автор бестселлера Superintelligence: Paths, Dangers, Strategies Ник Бостром рассказал Esquire, почему сверхразум может уничтожить людей всего за одну секунду.

В узких областях возможности искусственного интеллекта уже намного превышают человеческие: Гарри Каспаров, чемпион мира по шахматам, проиграл программе Deep Blue в далеком 1997 году. Поисковые запросы, распознавание речи, логистика — в этом специализированные системы лучше нас. Но на самом деле они пока не обладают мышлением как таковым, и никто сейчас не знает, когда будет изобретен настоящий искусственный интеллект.

Большинство ученых сходятся во мнении, что вероятность его появления до середины XXI века — 50%. Прогноз очень абстрактный, и очевидно, что произойти это может как намного раньше, так и гораздо позже. В 1940-х годах, когда были созданы первые компьютеры, ученые предсказывали появление машин, превосходящих интеллект человека, к 1960-м. Прогноз не сбылся, но уже тогда математик Ирвинг Джон Гуд, работавший во время Второй Мировой войны над взломом немецких шифров в команде Алана Тьюринга, предупреждал: «Сверхумная машина — последнее изобретение, которое предстоит сделать человечеству, при условии, конечно, что эта машина будет нас слушаться и укажет, как ее контролировать». Другими словами, первый же искусственный интеллект, созданный людьми, с большой вероятностью будет стремиться к неограниченному овладению ресурсами, а его цели никак не будут связаны с благом человечества. Если учесть, что люди состоят из полезных ресурсов — таких, например, как организованные в определенном порядке молекулы — и сами зависят от множества земных ресурсов, одним из наиболее вероятных последствий появления искусственного интеллекта станет полное исчезновение человечества. Представьте, что перед носителем сверхразума зачем-то встала задача максимально увеличить производство скрепок для бумаги. В этой связи у него будут как минимум две причины уничтожить человечество: чтобы мы не смогли ему каким-то образом помешать и чтобы использовать наши

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

11 способов становиться немного умнее каждый день 11 способов становиться немного умнее каждый день

Интеллект, как и тело, требует правильного питания и регулярных тренировок

Psychologies
Космическая мода: кому важна эстетика скафандров Космическая мода: кому важна эстетика скафандров

В XXI веке происходит пересмотр подходов к дизайну космических скафандров

Популярная механика
Как один сайт может предотвратить смерть миллионов российских пчел Как один сайт может предотвратить смерть миллионов российских пчел

Как новые технологии спасут пчел от вымирания

Forbes
Осторожно: мигрень! Осторожно: мигрень!

Это заболевание преследует человечество уже тысячи лет, как с ним справиться?

Лиза
Минный пол Минный пол

20 вещей, которых мы боимся в женщинах

Maxim
«Русская культура заговора. Конспирологические теории на постсоветском пространстве» «Русская культура заговора. Конспирологические теории на постсоветском пространстве»

Отрывок из книги историка Ильи Яблокова о русской культуре заговора

N+1
Хорошая плитка Хорошая плитка

Темный шоколад помогает справляться с хронической усталостью

Добрые советы
Удачная идея! Удачная идея!

Семь способов быстро обновить дачный интерьер

Лиза
Ученые разгадали тайны крепости Пор-Бажын Ученые разгадали тайны крепости Пор-Бажын

Строительство крепости началось летом 777 года

Популярная механика
Правила жизни Мэрил Стрип Правила жизни Мэрил Стрип

Актриса, Солсбери, штат Коннектикут, 71 год

Esquire
От «Рождения нации» до «Левиафана»: фильмы, которые изменили наш взгляд на мир От «Рождения нации» до «Левиафана»: фильмы, которые изменили наш взгляд на мир

Фильмы, которые оказали влияние на реальную жизнь и на настроения масс людей

РБК
Отрывок из книги Лиз Мур «Алая река» Отрывок из книги Лиз Мур «Алая река»

Первые главы дебютного романа американской писательницы Лиз Мур «Алая река»

СНОБ
Кризис мотивирует нас развиваться Кризис мотивирует нас развиваться

Как пережить период, когда ясно, что так, как прежде, уже не будет

Psychologies
Чтение: «Импровизаторы» Елены Соковениной — отличная подростковая книга про дружбу и приключения Чтение: «Импровизаторы» Елены Соковениной — отличная подростковая книга про дружбу и приключения

Отрывок из «Импровизаторы. Саквояж мадам Ренар» о настоящей дружбе

Esquire
Сражайтесь до последнего! Эльмина не сдалась и победила рак Сражайтесь до последнего! Эльмина не сдалась и победила рак

История девушки, которая не опустила руки вопреки всему и победила рак

Cosmopolitan
«Кровавая» работа природы и врачей «Кровавая» работа природы и врачей

Как можно избежать осложнений при переливании крови

Наука и жизнь
В чем ждать перемен. Как одеваться в стиле Виктора Цоя В чем ждать перемен. Как одеваться в стиле Виктора Цоя

Сейчас мы научим тебя быть Виктором Цоем.

Maxim
Построены и забыты: история монорельсовых дорог Построены и забыты: история монорельсовых дорог

Сто лет назад монорельсу пророчили большое будущее

Популярная механика
Эмиссия невыполнима: как живет секретный клуб, печатающий альтернативные российские валюты Эмиссия невыполнима: как живет секретный клуб, печатающий альтернативные российские валюты

Этот секретный клуб собирается составить конкуренцию Центробанку

Esquire
Как продавать свой продукт в федеральных сетях Как продавать свой продукт в федеральных сетях

Как региональному производителю попасть в крупные супермаркеты?

Inc.
Синьор Помидор Синьор Помидор

Как не ошибиться с выбором томатов

Лиза
10 фильмов, из-за которых критики разругались со зрителями 10 фильмов, из-за которых критики разругались со зрителями

Мнение кинокритиков и зрителей порой расходится кардинально

Maxim
Сказочные лихие Сказочные лихие

Почему к 90-м привязался эпитет «лихие»?

Огонёк
Целебный эффект молодой крови списали на разбавление старой Целебный эффект молодой крови списали на разбавление старой

Разбавление плазмы крови физраствором оказывает укрепляющий эффект на ткани

N+1
Как выйти на новый уровень в кризис: чек-лист для личной перезагрузки Как выйти на новый уровень в кризис: чек-лист для личной перезагрузки

Как найти новые точки опоры, проработать страхи и переоценить убеждения

Psychologies
Как избавиться от мешков под глазами навсегда: лучшие способы Как избавиться от мешков под глазами навсегда: лучшие способы

Эффективные методы борьбы с мешками под глазами

Cosmopolitan
«Я вижу то, что я слышу»: режиссер Саша Дженкинс рассказывает о роли музыки в своей жизни «Я вижу то, что я слышу»: режиссер Саша Дженкинс рассказывает о роли музыки в своей жизни

Эксклюзивное эссе от режиссера Саши Дженкинса для американского журнала Playboy

Playboy
Ножки-сухарики. История одного воспоминания Ножки-сухарики. История одного воспоминания

Порой достаточно свести двух умирающих людей, чтобы тем самым продлить их жизнь

СНОБ
26 из ларца и все в погонах 26 из ларца и все в погонах

Суммы штрафов с аграрников сопоставимы с субсидиями АПК

Огонёк
Орден мальтийского кролика Орден мальтийского кролика

Ради этих ушастых зверюшек мальтийцы способны даже на бунт

Лиза
Открыть в приложении