Развитие искусственного интеллекта сделает нас бессмертными либо убьет

РБКHi-Tech

Алексей Турчин: «В этом веке решится судьба человечества»

0:00 /
599.002

Следующее десятилетие будет испытанием для футурологов, так как скоро станет понятно, чьи прогнозы верны, а чьи остались только в фантазиях. Так считает Алексей Турчин, трансгуманист и соавтор книги «Футурология. XXI век: бессмертие или глобальная катастрофа?». Испытание ожидает и все человечество: дальнейшее развитие искусственного интеллекта сделает нас бессмертными либо убьет.

Алексей Турчин — трансгуманист, футуролог, вице-президент фонда «Наука за продление жизни». Основатель проекта Digital Immortality Now, предоставляющего услуги по фиксации важной информации о человеке, которую можно будет использовать в будущем для возможного восстановления личности с помощью сильного ИИ. Соавтор книги «Футурология: XXI век: бессмертие или глобальная катастрофа?».

Технологическая сингулярность (момент, когда технический прогресс станет настолько сложным, что будет недоступным пониманию. — РБК) предсказывалась еще в 1993 году американским писателем и профессором математики Вернором Винджем. Позже эту идею развил футуролог Рэй Курцвейл, который сдвинул наступление сингулярности с 2030 года на 2049-й. Тем не менее уже в следующем десятилетии мы увидим, выходит ли волна прогресса на экспоненциальный рост или захлебывается.

В области искусственного интеллекта (ИИ) сейчас происходит небывалый рост определенных количественных показателей — настолько быстрый, что дальше так продолжаться не может. Например, размер нейронных сетей, а именно число их параметров, при росте в десять раз за год к концу 2019 года достигло 11 млрд. Точно так же и количество вычислений, нужных для их тренировки, по подсчетам исследовательской компании OpenAI, удваивается каждые три месяца.

Эту информацию можно интерпретировать двояко: либо это он — давно ожидавшийся сверхэкспоненциальный рост, либо это попытки проехать еще немного на мертвой лошади, ведь показательный рост размеров систем ИИ отнюдь не сопровождается таким же ростом качества в смысле их близости к универсальному искусственному разуму (AGI, или Artificial General Intelligence. — РБК). При этом вопрос о сильном ИИ — основная задача XXI века, так как от него зависит дальнейшая судьба цивилизации.

Почему так важен вопрос о сильном ИИ?

Потому что универсальный ИИ нас или убьет, или сделает бессмертными. Поэтому он и называется сильным, так как способен решать задачи невероятного масштаба. Однако даже без ИИ сценарий будущего будет основываться на одном из этих двух путей: либо эволюции в сторону радикального продления жизни, либо перехода к тем или иным вариантам глобальной катастрофы.

И здесь возникает коллизия: будет ли быстрый прогресс более управляемым, чем медленный? Если сингулярность наступит, как предсказывалось, в 2030 году, то кто успеет ее оседлать? Не окажемся ли мы, как пауки в банке, в мальтузианской ловушке (ситуация, свойственная доиндустриальным обществам, в результате которой рост населения обгонял рост производства продуктов. — РБК)?

Если прогресс останавливается и мы остаемся с имеющимся набором технологий, то все существующие ресурсы становятся конечными, так как для разработки принципиально новых ресурсов нужны новые технологии. Экспоненциальное развитие экономики в мире с конечным количеством ресурсов приводит к их исчерпанию примерно за 100 лет, при этом загрязняется все, что можно, и затем наступает коллапс. Если прогресс не останавливается, то мы в конечном счете создаем «сверхтехнологии»: ИИ, нанотехнологии и биотехнологии, которые позволяют нам делать все, что угодно, с информацией, веществом и живой материей соответственно. Это означает очень большие возможности и очень большие риски, при которых возможен не просто коллапс, но и глобальная катастрофа и вымирание людей. В конечном счете масштаб разворачивающихся событий будет зависеть от скорости развития технологий.

Чего ждать от следующего десятилетия?

Во-первых, нужно наблюдать за скоростью развития искусственного интеллекта. Она покажет, начнется ли новая «зима» или будет достигнут какой-то «инфрачеловеческий» уровень. На инфрачеловеческом уровне, например, можно будет создать робота, способного приготовить и принести кофе, не разнеся при этом половины дома, не налив в чашку чистящее средство и не упав на кота. Такой ИИ — это не сверхинтеллект и даже не искусственный ученый-мыслитель, но это важное плато, на котором возможна коммерциализация и консолидация для следующего рывка.

Во-вторых, важно проследить, не выдохнется ли революция в электротранспорте и возобновляемых источниках энергии.

Затем важно определить, сможет ли «взрыв» числа стартапов в области longevity (от англ. долголетие. — РБК) трансформироваться в реальное увеличение средней ожидаемой продолжительности жизни и какова будет судьба общественных движений, выступающих за это. Например, сможет ли немецкая «Партия за медицинские исследования» (Partei für Gesundheitsforschung) существенно улучшить свои результаты?

Наконец, нужно смотреть, в какую сторону будет развиваться политическая ситуация в мире и не приведет ли она в первую очередь к некой масштабной войне.

Собственно, основной вопрос будущего — будем ли мы жить или умрем, и он скрывается за всеми остальными вопросами о том, насколько быстро будет происходить глобальное потепление, возможна ли ядерная война и каковы успехи у проектов по редактированию человеческого генома.

Но футурология — это не про однозначное предсказание будущего, а про осознание альтернатив, основных путей развития; понимание, где между ними находится развилка и какими своими действиями прямо сейчас мы выбираем эту альтернативу.

При этом, однако, будущее скрыто от нас туманами разной степени непрозрачности. Один из них — это иллюзия предсказуемости, уверенность в том, что все останется так же, как есть сейчас. Оно, возможно, и останется в каких-то сферах еще год, в каких-то — пять, но не в том виде, в котором мы ожидаем. Затем возникает некий ореол неоднозначности: к примеру, мы пока не знаем, кто будет следующим президентом, но можем обозначить несколько вероятных фигур. Однако дальше туман сгущается: какие-то части будущего видны, а какие-то совершенно непредсказуемы. После чего начинается сплошная пелена.

Будущее становится бесконечно неопределенным

Но над этой пеленой проступают гигантские утесы — это закономерные итоги будущего, несколько вариантов, чем все закончится. И если мы смотрим на весь XXI век, то это или бессмертие для всех, или глобальная катастрофа.

Почему так? Равновесие между силами прогресса и силами разрушения очень трудно поддерживать. Всякое «устойчивое развитие» внутренне нестабильно: оно или уходит в бесконечное ускорение сингулярного прогресса, или разваливается под тяжестью накапливающихся проблем. Даже те проблемы, которые мы создаем на нынешнем уровне, невозможно на нем же и решить. Взять ситуацию с мусором: чтобы с ней разобраться, нужны роботы-сортировщики, биологические катализаторы разложения и, может быть, даже молекулярные наноассемблеры (устройства наноразмеров, способные собирать из отдельных атомов или молекул любые сложные конструкции по вводимому в них плану. — РБК), то есть продукты более высокого технологического уклада. Однако новые технологии породят и новые проблемы, которые нам трудно представить: например, некий «высокотехнологический мусор», который будет состоять из сопротивляющихся своему разрушению наномеханизмов. В результате получается ситуация, в которой, чтобы убежать от лавины изменений, нужно бежать впереди нее.

Бесконечное ускорение прогресса может гипотетически привести и к новому стабильному состоянию, которое мы условно называем «сверхинтеллект» (как в книге «Сверхинтеллект» философа Ника Бострома). Возможно ли это — неизвестно, но он, как точка Омега французского теолога Тейяра де Шардена (состояние наиболее организованной сложности и одновременно наивысшего сознания. — РБК), возникает в конце любого мыслимого прогресса.

Разрушение, в свою очередь, также не может быть бесконечным, оно может достичь дна, снизу которого уже никто не постучит. Это, пожалуй, уровень самоподдерживающейся средневековой деревни или полное вымирание. В конце концов, мы имеем только два стабильных итога, ожидающихся в отдаленном будущем: или «сверхинтеллект» (а там же и бессмертие), или небытие.

Фото: Юлия Спиридонова для РБК

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Что будет способствовать развитию горнолыжного туризма Что будет способствовать развитию горнолыжного туризма

Какая инфраструктура необходима для развития горнолыжных курортов в России

РБК
«Пушистый директор»: почему сотрудникам Ford разрешили приводить на работу собак «Пушистый директор»: почему сотрудникам Ford разрешили приводить на работу собак

Финансовый директор Ford Тим Стоун, назначенный летом, пришел в компанию не один

Forbes
Нереальная любовь Нереальная любовь

Как и почему «эмоциональные» чат-боты стали заменять настоящих партнеров

РБК
Только для вас Только для вас

17 уникальных предметов, путешествий и впечатлений для читателей Robb Report

Robb Report
Мария Куликова: «Моя жизнь перевернулась в одно мгновение» Мария Куликова: «Моя жизнь перевернулась в одно мгновение»

Пожалуйста, дайте мне какую-нибудь дрянь сыграть!

Коллекция. Караван историй
Время Ориона. Зимнее небо Время Ориона. Зимнее небо

Зима не самое лучшее время для наблюдений звёздного неба в средней полосе России

Наука и жизнь
С видом на МГУ С видом на МГУ

Стиль индустриального шика и урбанистическая живопись в интерьере

SALON-Interior
Смерть бешеного принтера: кем и где мы будем работать в 2020 году Смерть бешеного принтера: кем и где мы будем работать в 2020 году

О чем стоит помнить, чтобы построить успешную карьеру в наступающем году

Forbes
«Дача» для миллиардера: как выглядит изнутри яхта-ледокол Олега Тинькова «Дача» для миллиардера: как выглядит изнутри яхта-ледокол Олега Тинькова

Как выглядит новая яхта Олега Тинькова изнутри

Forbes
Закусывать надо! Как пить алкоголь в новогоднюю ночь, чтобы потом не жалеть Закусывать надо! Как пить алкоголь в новогоднюю ночь, чтобы потом не жалеть

Что и как нужно пить, чтобы утро не началось с сожаления о вчерашнем

Cosmopolitan
Диана Арбенина: «Самый веселый новогодний концерт мы дали для подвыпившей дамы» Диана Арбенина: «Самый веселый новогодний концерт мы дали для подвыпившей дамы»

Диана Арбенина – о том, что делает жизнь женщины максимально осмысленной

Cosmopolitan
7 секретов для Золушки 7 секретов для Золушки

Расхламление квартиры перед праздником – как все успеть без волшебной палочки

Лиза
Равшана Куркова: «Нормальный и здоровый человек не станет актером» Равшана Куркова: «Нормальный и здоровый человек не станет актером»

Во время работы над фильмом «Последний бросок» Равшана Куркова… едва не погибла!

Grazia
Билет в Шангри-Ла Билет в Шангри-Ла

У меня в руках вполне реальный билет… Билет в Шангри-Ла

Наука и жизнь
Почему ДНК опровергает понятие «белокожий человек» Почему ДНК опровергает понятие «белокожий человек»

Отрывок из книги «Она смеется, как мать. Могущество и причуды наследственности»

СНОБ
Марина Малашенко: Гибкое начало рабочего дня. Плюсы и минусы Марина Малашенко: Гибкое начало рабочего дня. Плюсы и минусы

Гибкий или даже свободный график — это тренд, с которым сложно не считаться

СНОБ
Ты и есть мечта Ты и есть мечта

Практика для реализации высшего потенциала от мирового лидера Кундалини-йоги

Yoga Journal
Опаленная судьбой Опаленная судьбой

Брат пострадавшей в «Хромой лошади» Ирины Пекарской готов на эвтаназию

StarHit
Квартира для мамы, 43 м² Квартира для мамы, 43 м²

Интересная и комфортная квартира для пожилого человека

AD
Что делать, если вы «застряли» Что делать, если вы «застряли»

Порой нас охватывает чувство полной безысходности и кажется, так будет всегда

Psychologies
Робот и другие помощники. 10 самых раздражающих опций в автомобилях Робот и другие помощники. 10 самых раздражающих опций в автомобилях

Сомнительные опции, за которые не имеет смысла платить

РБК
На телах египетских мумий обнаружены десятки загадочных татуировок На телах египетских мумий обнаружены десятки загадочных татуировок

Возведение гробниц было не единственным творческим занятием мастеров прошлого

Популярная механика
«Вы либо живете своим бизнесом, либо это не ваш бизнес». Основательница TOY.RU о формировании личного бренда «Вы либо живете своим бизнесом, либо это не ваш бизнес». Основательница TOY.RU о формировании личного бренда

Интервью с Алисой Лобановой —  учредителем сети магазинов детских игрушек

Forbes
Сирша Ронан. Свободное плавание Сирша Ронан. Свободное плавание

К своим двадцати пяти годам актриса была уже трижды номинирована на «Оскар»

Караван историй
Как понять, что твой подарок не понравился Как понять, что твой подарок не понравился

Лишь еле заметные признаки дадут знать, облажался ты или нет с подарком

Maxim
Сюрпри-и-и-з! Сюрпри-и-и-з!

Есть у нас традиция – каждый год 31 декабря мы ждем чудес и приключений

Лиза
5+ причин отправиться в Израиль в любое время года 5+ причин отправиться в Израиль в любое время года

Израиль — место древних сказаний и передовых технологий

Cosmopolitan
Провал DARPA: одна из самых больших ошибок в истории науки Провал DARPA: одна из самых больших ошибок в истории науки

Эта бомба могла стать самой мощной в истории неядерных взрывных устройств

Популярная механика
Квартира с единорогом, 55 м² Квартира с единорогом, 55 м²

Хозяйка хотела темную квартиру, но в итоге проект получился светлым и сказочным

AD
«У нас всегда есть выбор»: узница Аушвица о надежде, силе духа и любви к жизни «У нас всегда есть выбор»: узница Аушвица о надежде, силе духа и любви к жизни

Удивительная женщина с невероятной судьбой — Эдит Ева Эгер

Psychologies
Открыть в приложении