Евгений Кузнецов: «Лет через 20 люди перестанут быть вершиной эволюции»
Развитие искусственного интеллекта радикально изменит не только окружающий мир, но и взаимоотношения между людьми и готовиться к этому следует уже сейчас, считает футуролог Евгений Кузнецов. В ходе вебинара РБК Pro он поделился своим прогнозом относительно сосуществования людей и разумных машин, назвал профессии, из которых роботы вытеснят человека, и объяснил, почему мы уже живем в матрице.
«О будущем можно договориться»
РБК: Как футурологи прогнозируют будущее, какие технологии есть для этого?
Е. К.: Футурология — это не столько наука, сколько область деятельности. Как наука она еще только зарождается. Я занимаюсь венчурными инвестициями. Это инвестиции в те компании, которые сейчас еще маленькие, но имеют все шансы лет через десять вырасти в глобальные компании, как в свое время случилось с Google, Amazon или Tesla. Когда ты вкладываешься в компании, которые растут на будущих рынках, то смотришь как бы в будущую реальность: приблизительно понимаешь, как будут выглядеть экономика, общество, потребление и т.д. Далеко не все прогнозы венчурных инвесторов сбываются, но в сумме они оправдываются. Можно сказать, что мировое сообщество венчурных инвесторов и создает эту повестку. Таким образом, есть и математические, и практические модели, которые позволяют делать более или менее уверенные предсказания.
РБК: Насколько футурологи в своих прогнозах опираются на геополитическую ситуацию?
Е. К.: Одна точка зрения предполагает, что в основе всех фундаментальных изменений в человеческом обществе лежат технологические революции и изменения, вслед за которыми приходит трансформация экономики и военного дела, а затем — политики, геополитики и общества. Есть и другой взгляд, в соответствии с которым в основе лежат крупные социальные процессы, например религиозные или революционные.
В разрезе моей профессиональной деятельности мне ближе анализ технологических процессов.
РБК: Можете привести какой-то пример из своего сценария?
Е. К.: Мой основной сценарий я назвал инквизицией, так как подозревал, что появятся мощные силы, тормозящие взрывное технологическое развитие. Ведь если его не тормозить, то мы в принципе уже сейчас можем влететь в мир с искусственным интеллектом, матрицей или генной коррекцией человека — технологии позволяют. Но это слишком страшно, потому что мы не знаем даже, как контролировать такое общество. Поэтому уже много лет мы наблюдаем системные процессы, которые тормозят развитие в наиболее опасных сферах.
Также можно отметить концентрацию на вопросах трансформации энергетики, например, транспорта и экономики. В итоге возникают крупные блоки, силы глобального масштаба, которые начинают соревноваться за повестку.
РБК: Вы говорите о принудительном торможении взрывного развития технологий?
Е. К.: Да. У нас были такие прецеденты. Когда было изобретено клонирование, то на него наложили запрет. Потом была попытка запретить технологии редактирования генома. Но китайцы независимо от США и Европы начали эксперименты. Если Европа и США тормозят эту работу, то Китай начинает их обгонять.
Сейчас главный волнующий всех вопрос — это поиск инструментов балансировки технологического развития и социальных процессов. Если не регулировать создание роботизированных инструментов, то без работы может оказаться три четверти трудоспособного населения Земли.
РБК: При этом независимо происходят процессы, которые могут тормозить развитие этих технологий. Например, пандемия коронавируса.
Е. К. Коронавирусная инфекция очень сильно продвинула человечество. С одной стороны, стали массово применяться технологии создания искусственных вирусов для вакцин, что еще пять лет назад боялись использовать. С другой стороны, коронавирус продвинул все, что связано с дистанционной работой, доставкой еды и т.д. Другое дело, что он вызвал глобальный сбой цепочек поставок и во многом поколебал традиционные индустрии — скажем, автопром. В этом смысле мы находимся сейчас в стадии пересборки глобальной экономики. Она тормозит, потому что происходит переход на новые рельсы, например от бензиновых автомобилей к электрическим.
РБК: По поводу электромобилей: любопытно, переходим ли мы на них? Переходит ли Европа?
Е. К.: В Европе процесс перехода стал необратимым — это во-первых. Например, в Норвегии в прошлом году почти 100% продаваемых машин были электрическими. Во-вторых, перебои с нефтью и газом только усиливают желание Европы поскорее перейти на электричество. При этом в России недооценивают тот факт, что основным локомотивом энергоперехода является вовсе не Европа, а Китай. В этой области он потратил больше денег, чем Европа, а также является мировым лидером по производству и электромобилей, и солнечных батарей. И Китаю это выгодно, так как нефти и газа у него нет. Я думаю, что Россия тоже в стороне не останется — придет китайский автопроизводитель и начнет строить заводы электромобилей, затем появятся электрозаправки, и энергопереход в стране станет новой экономической реальностью.
РБК: Каким образом футурологи абстрагируются от личных эмоций и субъективных оценок, чтобы оставаться беспристрастными?
Е. К.: Наиболее эффективный способ изобрели еще 50–60 лет назад: нужно собрать некую группу экспертов и внутри нее подискутировать. Будущее — это не математический объект, его практически невозможно вычислить. Была одно время популярная теория о том, что будущее — это предмет договора, а не прогноза. То есть чем больше людей договорятся о будущем, тем больше вероятность, что это будущее наступит. Ну, самый наглядный пример — это тот же самый энергопереход. Он был объективно необходим давно, но начался только тогда, когда люди стали об этом договариваться… В свое время в США проверили, насколько верны прогнозы аналитиков ЦРУ в сравнении с общественными ресурсами, на которых множество людей высказывают свои прогнозы. Оказалось, что прогнозисты на этом сайте работают лучше, чем в ЦРУ.
РБК: Получается, что нет никакого смысла проводить исторические параллели?
Е. К.: С одной стороны — да, в одну и ту же воду невозможно войти дважды. С другой стороны, в истории есть свои циклы и воспроизводящиеся процессы. В сознании человека множество функций и моделей поведения заложены как предустановленные программы. И в каком-то смысле человеческая эволюция — это борьба таких программ против нового понимания с точки зрения более совершенной науки, более чистой этической позиции.
«Нас ждет симбиоз ИИ и человека»
РБК: Если людям достаточно тяжело сдерживать развитие технологий, насколько легко это будет даваться ИИ?
Е. К.: Смысл искусственного интеллекта состоит в том, что многие функции и возможности, ограниченные самой способностью человеческого мозга, можно развить почти неограниченно. ИИ не может быть устроен так же сложно, как человеческий мозг, но в решении конкретных задач он научился превосходить человека. Скорость развития ИИ подчиняется закону Мура, это экспоненциальный рост, то есть чем дальше — тем больше. ИИ не будет таким же, как человек, он будет устроен по-другому. И мы пока можем только догадываться о том, как он будет устроен.
Пару лет назад британские математики доказали, что если появится так называемый суперинтеллект, способный к самообучению и самопознанию, то он сумеет гарантированно выйти из-под человеческого контроля. Это станет действительно эпохальным переходом. Как когда-то люди выделились из животного мира как разумные существа, так и тут из мира биологических мыслительных систем появляется небиологическая мыслительная система и начинает развиваться самостоятельно.
Мы помним гипотезу о Терминаторе, когда появляется страшный ИИ, который решает, что люди плохие. Я лично уверен, что этого не произойдет. Практически всегда новая форма мышления или разума влияла на предыдущие формы, но она их никогда не истребляла, а переделывала. Поэтому человек найдет себе место в будущем, в котором будет искусственный интеллект.
РБК: В ближайшем будущем останутся какие-то сферы, где машина даже гипотетически не сможет заменить человека?
Е. К.: Да. Я думаю, что за человеком останутся какие-то фундаментальные функции. И первая из них заключается в сверхвысокой адаптации. Похоже, что освоение космоса станет площадкой для лидерства людей. Почему? Потому что роботы обучаются на известных данных, им нужно проглатывать терабайты информации. И вдруг такой робот попадает в абсолютно новую реальность — другая гравитация, другая поверхность, другое окружение, ему надо учиться, а учиться некогда, надо уже начинать что-то делать. Вот человек на мизерных данных обычно учится быстрее, значительно быстрее…
При существующем знании об ИИ нас ждет, скорее, человеко-машинное будущее, я его еще называю «роботечество». Это симбиоз, когда машины прекрасно делают то, что им объяснили люди, но именно человек осваивает принципиально новое.
В каких-то аспектах, возможно, жизнь станет хуже, но в целом человечество станет значительно более сильным и способным к решению и планетарных, и космических задач.
«Мы уже живем в чем-то похожем на матрицу»
РБК: Сможет ли ИИ помочь нам в самопознании?
Е. К.: Мы подходим к тому моменту, когда человечество совершает глубинный масштабный переход в новое состояние. Эти радикальные изменения по скорости развития приходятся буквально на 2040-е, максимум на границу 40–50-х годов. Вероятнее всего, это будет как раз та граница, когда ИИ станет настолько сильным, что факт его присутствия будет влиять на само человечество, то есть люди уже перестанут быть вершиной эволюции. Как минимум им придется делиться с другим субъектом своим правом принимать решения.
РБК: Прогнозисты еще в середине XX века говорили, что ИИ получит такое развитие, что уже в 80–90‑х годах мог бы в какой-то степени управлять нашей жизнью. Это случилось, но сильно позже.
Е. К.: Нейросети действительно показали в последние годы настолько феноменальный результат, что теперь мы переживаем даже эйфорию от их внедрения. При этом я не исключаю, что мы дойдем в ближайшие лет десять до некоего тупика развития в сфере ИИ, а потом будут откат и разочарование. Но я абсолютно уверен, что еще через десять лет появится новая технологическая сборка или более сложная архитектура и этот прорыв начнется снова. Так устроены технологии. Есть такая поговорка: мы всегда переоцениваем скорость появления новой технологии, но всегда недооцениваем ее масштаб.
РБК: Возможна ли жизнь в матрице? И как она может быть организована с учетом текущего уровня развития технологий?
Е. К.: Мы уже живем в чем-то похожем на матрицу. Вся цифровая система вокруг — социальные сети, поисковые технологии, торговые сети, цифровые банки — окружает нас очень плотным коконом, это называется «цифровой пузырь». И он знает нас лучше, чем мы себя сами: что мы хотим, о чем думаем, что читаем. И этот «пузырь» начинает подсовывать нужную нам информацию. В американской литературе появился термин «неотрайбализм». В традиционном смысле трайбализм — это когда одно племя смотрит на другое только как на еду. И в социальных сетях возникает подобная история, когда одни люди просто не понимают других. Это очень опасный социальный эффект, потому что он провоцирует рост агрессии и социальных конфликтов. Так что в каком-то смысле все элементы матрицы уже есть, осталось интерфейсы доработать. Думаю, что через пять—десять лет что-то такое появится.
РБК: Получается, что ИИ в какой-то степени провоцирует еще большее социальное расслоение и разобщение?
Е. К.: Да. Цифровая среда радикализует и усиливает противоречия. И нам придется договариваться друг с другом заново в мире очень высоких противоречий. Но люди научатся. Главная особенность людей в том, что они адаптируются.
РБК: Станет ли цифровая душа единственно эффективным инструментом для космических путешествий и колонизации других планет?
Е. К.: Можно ли наше биологическое тело переместить на другую планету — огромный вопрос. Значительно проще придумать что-то трансгуманистическое: запихнуть сознание в космическую железку и послать ее изучать другую планету. Некая с научной точки зрения значимая фактура появится в ближайшие пять—десять лет, когда могут возникнуть первые постоянные поселения на Луне и на Марсе. Вот тогда мы поймем, достаточно ли адаптивно тело к тому, чтобы пережить даже небольшое космическое путешествие. Ко мне уже приходили стартапы, которые разрабатывают лекарства по защите ДНК от разрушения космическими лучами.
«Людям придется осваивать новые профессии»
РБК: Чьи возможности все-таки безграничны — человека или ИИ?
Е. К.: Исчерпан ли потенциал развития разума биологической формы человека, мы не знаем. На протяжении всей истории человек развивается не как индивидуальное существо, а как коллективное. Вполне возможно, что человечество как коллективное существо в своей эволюции не ограничено. С другой стороны, что-то намекает, что без ИИ эволюция человека тоже не может осуществляться эффективно. Я верю в коэволюцию. То есть и человечество будет развиваться, и искусственный разум, и мы будем создавать некий интегративный конгломерат.
РБК: Какие профессии будущего следует осваивать уже сейчас, чтобы не проиграть самообучающемуся искусственному интеллекту в борьбе за трудовые места?
Е. К.: ИИ будет занимать прежде всего сферы деятельности средней квалификации — это вождение автомобиля, полет на самолете, функции обслуживания машин. В результате человек будет вытесняться в высокоинтеллектуальные, творческие и социальные сферы. Робот будет ставить диагнозы и назначать лечение лучше человека, но он не будет способен сочувствовать. Поэтому врач будущего — это не столько специалист, который досконально знает медицину, сколько специалист, который досконально знает человека. Думаю, что люди с «человеческими» специальностями — врачи, учителя, управленцы — найдут себе место, а вот тем, кто занимается механической работой, нужно будет осваивать цифровые специальности.
Чтобы работать с роботами, надо понимать робота, то есть надо уметь мыслить уже цифровым образом. Можно остаться в своих сферах, но придется осваивать цифровую грамотность.
РБК: Способна ли роботизация стать первопричиной потери человечеством своей идентичности?
Е. К.: Я склоняюсь к тому, что нет. Дело в том, что идентичность — это основа эволюции знания. Именно разнообразие и уникальность являются наибольшей ценностью. Раньше людей ценили за то, что они действуют как все, а сейчас их больше ценят за то, что они говорят что-то новое. Я думаю, что чем больше будет развиваться ИИ, тем больше люди будут разными.
РБК: Но при этом станет еще сложнее договариваться.
Е. К.: Да. Это тот цивилизационный вызов, который нам надо преодолеть. Как только люди начнут расти в принятии прав других на иную позицию и интересы, наш собственный мир станет многообразнее.
РБК: ИИ способен быть креативным?
Е. К.: Смотря в каком понимании. Он способен создавать культурные объекты, мы в этом уже убедились. Но создавать культурные явления, ломающие шаблон, наверное, может только человек.
РБК: Что будет происходить, когда искусственный интеллект научится не только предугадывать наши желания, но и формировать их?
Е. К.: Это уже тоже частично происходит. В каком-то смысле эта гиперактивная среда со считыванием запросов создает и влияние на них. Опасность состоит в том, что человек будет терять субъектность. Но я уверен, что люди очень сильны в плане свободы воли. То, что создало нас как вид и как цивилизацию, — это именно свобода воли. ИИ будет нас интеллектуально ограничивать, а мы будем этому сопротивляться и двигаться вперед.
РБК: Как будет развиваться ИИ в мире и в России в ближайшие 20, 30, 50 лет?
Е. К.: Почти невозможно заглянуть за горизонт двадцатилетия, потому что это будет другой мир и в социальном плане, и в технологическом, и в экономическом. Возможно, через три года не останется ни одного сервиса, бизнес-услуги или процесса, где бы не был внедрен тот или иной ИИ. А вот через 20 лет мы можем дойти до появления саморазвивающегося искусственного интеллекта, столкновение с которым радикально поменяет человечество.
Фото: Михаил Гребенщиков для РБК
Смотрите полную версию беседы на РБК Pro
Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl