Почему сверхразум может уничтожить людей всего за одну секунду

EsquireОбщество

Чем опасен искусственный интеллект и почему сверхразум может уничтожить людей всего за одну секунду

Стивен Хокинг, Илон Маск и другие ученые и изобретатели считают искусственный интеллект угрозой жизни на Земле. Директор Института будущего человечества в Оксфорде и автор бестселлера Superintelligence: Paths, Dangers, Strategies Ник Бостром рассказал Esquire, почему сверхразум может уничтожить людей всего за одну секунду.

В узких областях возможности искусственного интеллекта уже намного превышают человеческие: Гарри Каспаров, чемпион мира по шахматам, проиграл программе Deep Blue в далеком 1997 году. Поисковые запросы, распознавание речи, логистика — в этом специализированные системы лучше нас. Но на самом деле они пока не обладают мышлением как таковым, и никто сейчас не знает, когда будет изобретен настоящий искусственный интеллект.

Большинство ученых сходятся во мнении, что вероятность его появления до середины XXI века — 50%. Прогноз очень абстрактный, и очевидно, что произойти это может как намного раньше, так и гораздо позже. В 1940-х годах, когда были созданы первые компьютеры, ученые предсказывали появление машин, превосходящих интеллект человека, к 1960-м. Прогноз не сбылся, но уже тогда математик Ирвинг Джон Гуд, работавший во время Второй Мировой войны над взломом немецких шифров в команде Алана Тьюринга, предупреждал: «Сверхумная машина — последнее изобретение, которое предстоит сделать человечеству, при условии, конечно, что эта машина будет нас слушаться и укажет, как ее контролировать». Другими словами, первый же искусственный интеллект, созданный людьми, с большой вероятностью будет стремиться к неограниченному овладению ресурсами, а его цели никак не будут связаны с благом человечества. Если учесть, что люди состоят из полезных ресурсов — таких, например, как организованные в определенном порядке молекулы — и сами зависят от множества земных ресурсов, одним из наиболее вероятных последствий появления искусственного интеллекта станет полное исчезновение человечества. Представьте, что перед носителем сверхразума зачем-то встала задача максимально увеличить производство скрепок для бумаги. В этой связи у него будут как минимум две причины уничтожить человечество: чтобы мы не смогли ему каким-то образом помешать и чтобы использовать наши

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

С места наверх С места наверх

Настоящая история человека, который первым на Земле просто взял и полетел

Популярная механика
Кормушки позволили самкам больших синиц не экономить энергию зимними ночами Кормушки позволили самкам больших синиц не экономить энергию зимними ночами

С кормушками самки синиц легче переживают зиму

N+1
Долгая счастливая жизнь Долгая счастливая жизнь

Старение – это естественно, но не нормально

Популярная механика
Жизнь в опале Жизнь в опале

Репортаж из мировой столицы опалов, города-прииска Кубер-Педи

Вокруг света
Грехи Грехи

Мужчины, которые обеспечили себе место в аду, зарабатывая состояние и признание

Esquire
Пальцевый индекс оказался не связан с изменением уровня тестостерона у мужчин Пальцевый индекс оказался не связан с изменением уровня тестостерона у мужчин

Пальцевый индекс оказался не связан с уровнем гормонов во взрослом возрасте

N+1
Мои десерты лучше сочетать с вином! Мои десерты лучше сочетать с вином!

Два брата, два шефа — такое редко встречается

Bones
Наркоманка, шпионка... и продюсер в 16 лет: как Зендая стала знаменитой актрисой Наркоманка, шпионка... и продюсер в 16 лет: как Зендая стала знаменитой актрисой

Путь к успеху актрисы Зендаи Мари Штермер Коулман

Cosmopolitan
От От

Обойти вниманием эти исторические фильмы просто преступление

Популярная механика
Живая смерть: что такое биологическое оружие Живая смерть: что такое биологическое оружие

Полковник медицинской службы запаса объясняет, что такое биологическое оружие

Популярная механика
Как правильно бриться станком: преимущества разных видов и пошаговая инструкция Как правильно бриться станком: преимущества разных видов и пошаговая инструкция

Пора освоить этот необходимый скилл

Playboy
Польза фиников для мужчин: 11 классных эффектов, которые тебе понравятся Польза фиников для мужчин: 11 классных эффектов, которые тебе понравятся

Сладкие и очень полезные

Playboy
«Дорога — это символ»: каким получился новый альбом БГ «Дорога — это символ»: каким получился новый альбом БГ

Как именно БГ чувствует наше общее время

РБК
Что такое «социальный статус» слова Что такое «социальный статус» слова

Как изменения в языке отражаются на нас

СНОБ
Что делают протоны, когда на них никто не смотрит Что делают протоны, когда на них никто не смотрит

Как развивался сюжет необычного исследования

N+1
Парижский синдром: почему у японских туристов, приезжающих во Францию, развиваются психические расстройства Парижский синдром: почему у японских туристов, приезжающих во Францию, развиваются психические расстройства

Почему японцы болеют "парижским синдромом" и стоит ли его опасаться туристам

Esquire
Как правильно хранить хлеб: несколько полезных советов Как правильно хранить хлеб: несколько полезных советов

Всем хорош хлеб, одна беда - хранится недолго и быстро портится.

Популярная механика
Танковое Бородино, октябрь 1941 года Танковое Бородино, октябрь 1941 года

Реальное видео сражения из немецкой кинохроники

Maxim
10 ежедневных странностей нашего мозга 10 ежедневных странностей нашего мозга

Мелкие ошибки мозга случаются ежедневно, и мы даже успеваем к ним привыкнуть

Популярная механика
Александр Соболев: «Даже один масштабируемый пилот полностью окупает двухлетнюю работу со стартапами» Александр Соболев: «Даже один масштабируемый пилот полностью окупает двухлетнюю работу со стартапами»

Как гибкость стартапов помогает корпоративному миру внедрять новые решения

РБК
Спиновое стекло самообразовалось в монокристаллических островках неодима Спиновое стекло самообразовалось в монокристаллических островках неодима

Как возникает новый тип самообразующегося спинового стекла

N+1
Электронный нос определил зрелость персиков на дереве Электронный нос определил зрелость персиков на дереве

Новая разработка классифицировала степень спелости персика в 51 случае из 52

N+1
Мир черно-белый. Или нет? Мир черно-белый. Или нет?

Почему нам так важно разделить мир на черное и белое?

Psychologies
«Ожидаем новый передел»: глава группы «Везёт» о том, почему сделку с «Яндексом» нужно одобрить «Ожидаем новый передел»: глава группы «Везёт» о том, почему сделку с «Яндексом» нужно одобрить

Гендиректор «Везёт» Андрей Лукашевич рассказывает о сделке с «Яндекс.Такси»

Forbes
17 самых сексуальных песен Принса 17 самых сексуальных песен Принса

Самые непристойные треки Принса, которые так и зовут нас на танцпол

GQ
Фонд LETA Capital составил портрет типичного русскоязычного IT-предпринимателя на основе больших данных Фонд LETA Capital составил портрет типичного русскоязычного IT-предпринимателя на основе больших данных

Как выглядит среднестатистический IT-предприниматель?

Inc.
Морские каникулы Морские каникулы

Уютный и в то же время респектабельный интерьер, наполненный пляжным настроением

SALON-Interior
Каково это — гастролировать с Queen. Интервью со старшим техником группы Питером Хинсом Каково это — гастролировать с Queen. Интервью со старшим техником группы Питером Хинсом

Воспоминания Питера Хинса — техника Queen, который гастролировал с группой

Esquire
Коррекция бровей: как сделать модную форму самой — советы мастера Коррекция бровей: как сделать модную форму самой — советы мастера

Как лучше корректировать брови самостоятельно, чтобы потом об этом не пожалеть

Cosmopolitan
«В моем случае связи не работают» «В моем случае связи не работают»

Ведущая Comedy Women Мария Кравченко вот-вот получит третье высшее образование

OK!
Открыть в приложении