Почему сверхразум может уничтожить людей всего за одну секунду

EsquireОбщество

Чем опасен искусственный интеллект и почему сверхразум может уничтожить людей всего за одну секунду

Стивен Хокинг, Илон Маск и другие ученые и изобретатели считают искусственный интеллект угрозой жизни на Земле. Директор Института будущего человечества в Оксфорде и автор бестселлера Superintelligence: Paths, Dangers, Strategies Ник Бостром рассказал Esquire, почему сверхразум может уничтожить людей всего за одну секунду.

В узких областях возможности искусственного интеллекта уже намного превышают человеческие: Гарри Каспаров, чемпион мира по шахматам, проиграл программе Deep Blue в далеком 1997 году. Поисковые запросы, распознавание речи, логистика — в этом специализированные системы лучше нас. Но на самом деле они пока не обладают мышлением как таковым, и никто сейчас не знает, когда будет изобретен настоящий искусственный интеллект.

Большинство ученых сходятся во мнении, что вероятность его появления до середины XXI века — 50%. Прогноз очень абстрактный, и очевидно, что произойти это может как намного раньше, так и гораздо позже. В 1940-х годах, когда были созданы первые компьютеры, ученые предсказывали появление машин, превосходящих интеллект человека, к 1960-м. Прогноз не сбылся, но уже тогда математик Ирвинг Джон Гуд, работавший во время Второй Мировой войны над взломом немецких шифров в команде Алана Тьюринга, предупреждал: «Сверхумная машина — последнее изобретение, которое предстоит сделать человечеству, при условии, конечно, что эта машина будет нас слушаться и укажет, как ее контролировать». Другими словами, первый же искусственный интеллект, созданный людьми, с большой вероятностью будет стремиться к неограниченному овладению ресурсами, а его цели никак не будут связаны с благом человечества. Если учесть, что люди состоят из полезных ресурсов — таких, например, как организованные в определенном порядке молекулы — и сами зависят от множества земных ресурсов, одним из наиболее вероятных последствий появления искусственного интеллекта станет полное исчезновение человечества. Представьте, что перед носителем сверхразума зачем-то встала задача максимально увеличить производство скрепок для бумаги. В этой связи у него будут как минимум две причины уничтожить человечество: чтобы мы не смогли ему каким-то образом помешать и чтобы использовать наши

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

11 способов становиться немного умнее каждый день 11 способов становиться немного умнее каждый день

Интеллект, как и тело, требует правильного питания и регулярных тренировок

Psychologies
Сооснователь проекта «Много лосося» — о «темной кухне» и кризисе Сооснователь проекта «Много лосося» — о «темной кухне» и кризисе

Основатель «Много лосося» об шершавых пиццах и роботах для сборке поке.

РБК
Как делают стволы для снайперских винтовок: отвечает Влад Лобаев Как делают стволы для снайперских винтовок: отвечает Влад Лобаев

Как делают стволы для снайперских винтовок и как технологии влияют на точность?

Популярная механика
Ликбез для всех студентов: как правильно читать научные статьи Ликбез для всех студентов: как правильно читать научные статьи

Работа с научными источниками — это навыки, которые обходят учебные программы

Популярная механика
Светлана Иванова: «Сегодня важно быть готовой к любой ситуации» Светлана Иванова: «Сегодня важно быть готовой к любой ситуации»

Светлана Иванова рассказала о плюсах и минусах изоляции

Здоровье
Псевдотсуги Мензиса замедлят свой рост в ответ на потепление Псевдотсуги Мензиса замедлят свой рост в ответ на потепление

Псевдотсуги Мензиса станут поглощать меньше углекислого газа

N+1
«Я, беременная, нашла мужа в стриптиз-клубе»: Анна Седокова о драме личной жизни «Я, беременная, нашла мужа в стриптиз-клубе»: Анна Седокова о драме личной жизни

37-летняя Анна Седокова сегодня – успешная певица и любящая мама троих детей

Cosmopolitan
Здравствуй, грудь Здравствуй, грудь

Мастопатия — довольно странный диагноз

Добрые советы
Урожай красоты Урожай красоты

Сезонные ягоды и овощи – лучшие ингредиенты для масок

Лиза
Терагерцовая щель в науке: чем ее можно «заполнить» Терагерцовая щель в науке: чем ее можно «заполнить»

Одно из будущих возможных применений терагерцового излучения — лечение рака

Популярная механика
Поднять всех наверх: грандиозные клады ХХI века Поднять всех наверх: грандиозные клады ХХI века

Далеко не все некогда потерянные или спрятанные богатства были обнаружены

Популярная механика
Антиоксиданты в кишечнике помогли дрозофилам не умереть без сна Антиоксиданты в кишечнике помогли дрозофилам не умереть без сна

Связи мозга с этим эффектом не нашли

N+1
«Доходы в 2022 году будут ниже, чем в 2014-м»: Михаил Задорнов о «корона-кризисе», IPO «Открытия» и «московском банковском кольце» «Доходы в 2022 году будут ниже, чем в 2014-м»: Михаил Задорнов о «корона-кризисе», IPO «Открытия» и «московском банковском кольце»

Интервью с председателем правления банка «Открытие» Михаилом Задорновым

Forbes
10 пар животных, в чьи родственные связи сложно поверить 10 пар животных, в чьи родственные связи сложно поверить

Не похожие друг на друга существа на самом деле приходятся друг другу кузенами

Популярная механика
Встать, суд идиот! 10 самых нелепых приговоров Встать, суд идиот! 10 самых нелепых приговоров

Иногда быть униженным и оскорбленным — очень выгодное дело

Maxim
Дом Мельникова: уникальный памятник инженерной мысли Дом Мельникова: уникальный памятник инженерной мысли

Дом Мельникова — икона и символ архитектурного авангарда

Популярная механика
С Цукербергом рай в шалаше: где живут современные и молодые миллиардеры С Цукербергом рай в шалаше: где живут современные и молодые миллиардеры

Где живут технологические миллиардеры

Forbes
Мой папа был алкоголиком Мой папа был алкоголиком

В чем особенности отношения к алкоголикам в нашей стране

СНОБ
14 потусторонних фактов о сериале «Твин Пикс» 14 потусторонних фактов о сериале «Твин Пикс»

Факты не то, чем они кажутся

Maxim
Женщины, которые меняют ландшафт мужской индустрии моды Женщины, которые меняют ландшафт мужской индустрии моды

Рассказываем о женщинах, задающих правила игры прямо сейчас

GQ
Синдром белого пальто: зачем мы осуждаем других Синдром белого пальто: зачем мы осуждаем других

Так ли мы правы, поделив мир на плохих и хороших

Psychologies
Кто создал проект Loóna, благодаря которому Наталья Водянова крепче спит Кто создал проект Loóna, благодаря которому Наталья Водянова крепче спит

Команда российских разработчиков, которая придумала гениальный проект

GQ
Раздражение: понять и обезвредить Раздражение: понять и обезвредить

Почему мы не всегда понимаем истинную причину своего раздражения

Psychologies
Предсказания от ИИ: турецкий предприниматель запустил сервис для гадания на кофейной гуще и получил 5 млн пользователей Предсказания от ИИ: турецкий предприниматель запустил сервис для гадания на кофейной гуще и получил 5 млн пользователей

Благодаря ИИ у турков нет необходимости обращаться к гадалкам

VC.RU
Пальцевый индекс оказался не связан с изменением уровня тестостерона у мужчин Пальцевый индекс оказался не связан с изменением уровня тестостерона у мужчин

Пальцевый индекс оказался не связан с уровнем гормонов во взрослом возрасте

N+1

Отрывок из книги "Ты не виновата. Почему домашнее насилие — это не про любовь"

Cosmopolitan
Что любил есть Маяковский? Что любил есть Маяковский?

«Ешь ананасы, рябчиков жуй» — и не только

Культура.РФ
Низкие налоги, круглосуточные магазины и все опаздывают: почему иностранцам нравится работать в России Низкие налоги, круглосуточные магазины и все опаздывают: почему иностранцам нравится работать в России

Почему не стоит забывать о том, что Россия — страна карьерных возможностей

Forbes
Правила жизни Рона Джереми Правила жизни Рона Джереми

Правила жизни порноактера и режиссера Рона Джереми

Esquire
Почему цены иногда уходят в минус? Почему цены иногда уходят в минус?

Нефть не подешевела, подорожало её хранение в одном месте в конкретное время

N+1
Открыть в приложении