Эра крушения мечты
Футурологи считают 2020-е годы ключевым этапом в приближении технологической сингулярности — доминирования технологий над человеком. Однако процесс может затянуться. Или вообще зайти не туда
В 2005 году американский изобретатель и футуролог Рэймонд Курцвейл выпустил книгу «Сингулярность близко» — сборник идей и предсказаний о том, как будет выглядеть будущее человечества. В книге утверждалось, что в 2010 году привычные нам компьютеры исчезнут, на смену им придут гаджеты, встроенные в одежду: «умные» очки, штаны, рубашки. Все они будут взаимодействовать друг с другом и помогать человеку лучше ориентироваться, следить за здоровьем, принимать решения. Поэтому в какойто момент мы уже не сможем обойтись без них. Начало 2020-х Курцвейл отдал на откуп виртуальной реальности, когда люди станут общаться друг с другом уже не по телефону или видеосвязи, а используя полноценные 3D-модели самих себя. Дальше — больше. В 2029 году искусственный интеллект (ИИ) должен пройти тест Тьюринга, то есть стать не хуже человеческого, а к середине века наступит технологическая сингулярность — момент, когда прогресс станет таким быстрым, что окажется недоступен нашему пониманию.
Сам термин «сингулярность» пришел из математики и означает особенность чего-либо — переменной или функции. Так, в точке сингулярности наблюдается необычное поведение — например, величина может стать бесконечной или неопределимой. Писатель-фантаст Вернор Виндж в 1990-х связал такую возможность и с технологическим развитием. В своих работах и выступлениях он еще до Курцвейла рисовал масштабные технологические утопии будущего. Позже, уже в новом веке, Виндж остался верен идее сингулярности, однако указал на очевидные ограничения и возможность того, что сингулярность на самом деле не произойдет. Такое будущее он назвал эрой крушения мечты.
Главный аргумент против сингулярности — зависимость мощи программного обеспечения от «железа»: скорости процессоров и другой начинки компьютеров. Без новых прорывов в материаловедении, микроэлектронике и средствах связи массовая автоматизация забуксует. По Винджу, «железо» всегда отстает от возможностей программного обеспечения и на его модернизацию требуется все больше усилий. С ростом численности населения повышалась мощность крупнейших источников электроэнергии.
В 2000-е Виндж привлек внимание мира к экспоненциальному росту мощности крупнейших электростанций, который сопутствовал росту численности населения. Самой крупной на сегодня является гидроэлектростанция «Три ущелья» в Китае мощностью около 23 ГВт. При этом численность населения Земли приближается к восьми миллиардам человек, но рост замедляется. Для продолжения экспоненциального роста мощностей, по логике Винджа, должно расти и население, в перспективе — до ста миллиардов человек. Ясно, что это крайне маловероятно. Получается, что приближение сингулярности возможно лишь в случае появления кардинально новых технологий — и в энергетике, и в компьютерном «железе». Продолжение этой линии Виндж видел в вероятном экологическом шоке, с возможным потенциалом снижения населения до трех миллиардов человек, и началом «эры благоденствия». Но и это кажется маловероятным. В дальнейших своих размышлениях Виндж в итоге вообще «ушел от Земли», решив, что единственный надежный путь спасения — появление самодостаточных поселений за пределами планеты.
Для тех же, кто улетать в космос не собирается, остается один вопрос: когда ждать той грани, за которой экспоненциальный рост мощнейших электростанций, процессоров, баз данных и всего остального «сломается» и наступит новая эра. Ни один реальный и при этом устойчивый процесс не доходит до бесконечности, какой бы ни была описывающая его математическая конструкция. Поэтому и возможности компьютеров, алгоритмов и интернета тоже должны найти свой берег.
По Курцвейлу, в точке сингулярности технологический процесс достигает такой скорости, что начинает поддерживать сам себя и бесконтрольно меняет человеческую цивилизацию до неузнаваемости. Безвозвратно. То есть никакого «берега» просто нет.
Очевидно, что такой сингулярности пока не случилось, хотя «умные» часы и гаджеты действительно стали популярными. Смартфоны везде, а объем передачи данных вырос многократно, но вещи все же еще не умеют «говорить» друг с другом и не решают проблем человека без его контроля. Именно 2020-е должны стать определяющим моментом — умереть ли этим мечтам или же пугающая воображение идея о мире машин станет реальностью.
Не вопрос науки
Согласно теории Курцвейла, скорость технологического прогресса (и, более широко, всех эволюционных процессов) увеличивается экспоненциально — в статье 1999 года он называет это законом ускоряющейся отдачи. Фактически это более общая форма закона Мура. По подсчетам Курцвейла, мощность компьютеров удваивается каждый год, параллельно снижается стоимость технологий (если под ними подразумевать производительность). К примеру, в 1968 году один транзистор стоил один доллар, а в наше время за четыре доллара можно купить десять миллиардов транзисторов. Сегодня смартфон продается за 75 или даже за 50 долларов, а в 1980-е аналогичная вычислительная мощность стоила бы миллиард.
Однако у закона Мура — и, соответственно, у закона ускоряющейся отдачи — есть пределы. В конце концов, сам Мур в 2003 году заявил, что в реальности ни одна величина (в том числе производительность компьютеров) не может расти бесконечно. И, как напоминает Раджа Чатила, директор Института интеллектуальных систем и робототехники Университета Пьера и Мари Кюри, «вычислительная мощность — это не интеллект. У нас в мозгу около ста миллиардов нейронов. Именно их организация и взаимодействие заставляют нас думать и действовать». Чатила отмечает, что мы можем лишь запрограммировать алгоритмы для эффективного выполнения некоторых вычислений. «Сингулярность — вопрос веры, а не науки», — подчеркивает ученый.
Технологическая сингулярность подразумевает слияние биологического существования человека с высокими технологиями. Футурологи верят, что к этому моменту мир по-прежнему будет населен и управляем людьми, однако границы между человеком и машиной полностью исчезнут. Генеральный директор и основатель Softbank Масаёси Сон ожидает наступления сингулярности к 2047 году — тогда, по его мнению, IQ роботов достигнет уровня 10 000. Создатель краудсорсинговой платформы Unanimous AI Луис Розенберг уверен, что искусственный интеллект превзойдет способности человеческого мозга примерно в 2030 году. По мнению Пьера Барро, генерального директора компании AIVA Technologies, разработавшей нейросеть для создания музыки, ИИ сможет пройти тест Тьюринга только в 2050 году, однако и это не будет означать, что он станет умнее человека.
Сингулярность и нанотехнологии
Важность развития «железа» и кибербиологических систем подчеркивалась идеологами так называемых нанотехнологий. В 2007 году Комиссия по экономической политике Конгресса США опубликовала отчет «Нанотехнологии: будущее наступит раньше, чем вы думаете», в котором рассматривалось будущее технологий. По мнению авторов, именно нанотехнологии станут двигателем прогресса и позволят человечеству прийти к технологической сингулярности. Датой был обозначен 2020 год «и позже». Планировалось, что «умные» машины смогут совершать научные открытия, на которые не способен человек. «Научные достижения начнут активно развиваться и ускоряться на беспрецедентном уровне, позволяя создавать продукты, которые сегодня кажутся научной фантастикой», — говорилось в отчете. Достичь этого удастся благодаря нанотехнологиям и искусственному интеллекту, считали авторы документа.
Некоторые предсказания авторов отчета сбылись, хотя и не всегда в той форме, в которой предполагали ученые. Прогнозировали, что в 2010–2015 годах начнут развиваться «системы наносистем», появятся аккумуляторы на основе белков, станет возможной и начнет применяться биопечать, «умные» наноустройства смогут обнаруживать раковые клетки. Эти технологии уже действительно существуют, но широко не используются.
В 2011 году ученые из Института белка РАН и Института физической химии и электрохимии РАН создали аккумуляторы с электродами на основе жгутиков архей (архебактерий) — они оказались достаточно емкими и долговечными, но за пределами лабораторий их все еще не применяют. Существует и биопечать: в лабораториях уже умеют печатать кости, хрящи, кровеносные сосуды, мочевые пузыри, клетки сердца, а российские космонавты год назад даже напечатали живые ткани на биопринтере прямо в космосе. Однако пока биопечать находится на экспериментальной стадии, ее массовое внедрение как полноценной альтернативы донорских органов замедляют многочисленные научные и правовые пробелы.
Сбылся прогноз о наноустройствах, используемых для борьбы с раком: в 2018 году группа американских и китайских ученых создала нанороботов из нитей ДНК, способных распознавать раковые клетки и лишать их пищи, создавая тромбы в соседних кровеносных сосудах. Из «предсказаний» Комиссии по экономической политике на 2010–2015 годы не осуществилась только разработка «умной» пыли — группировок микроскопических устройств, обменивающихся беспроводными сигналами и функционирующих как единая система. Несмотря на то что групповая робототехника уже существует (см. «От роя к социуму роботов», «Эксперт» № 43 за 2019 год), пока что эти разработки практически не покидают лабораторий, а «групповые» роботы по размеру существенно превосходят пылинки.
По мнению авторов отчета, в 2015– 2020 годах должны были развиваться уже молекулярные наносистемы. Эта стадия развития технологий описывалась более расплывчато: ожидалось, что нанотехнологии будут использоваться в медицине для модификации ДНК и для восстановления поврежденных клеток. Сейчас нанотехнологии действительно применяются в медицине, но в первую очередь для доставки лекарств и диагностики на молекулярном
уровне. Однако электронные наноустройства, способные «чинить» клетки, пока остаются фантастикой — как и управление компьютером с помощью «мозговых волн», внедрение которого авторы отчета также прогнозировали к 2020 году.
ИИ: ожидания и реальность
Если повторить одно и то же слово много раз, оно начинает терять смысл. Такая судьба постигла термин «искусственный интеллект», который эксплуатируется компаниями и государственными органами по поводу и без. Граница между хайпом и реальным прогрессом в области ИИ стерлась. Например, в этом году компания Oral B объявила о выпуске зубной щетки с ИИ, вся «интеллектуальность» которой заключается в предоставлении отчета о том, насколько долго и тщательно пользователь чистит зубы.
Мнений о том, как сильно ИИ изменит нашу жизнь, не сосчитать: апологеты технологии обещают нам мир, полный «умных» устройств, которые повысят производительность труда, а скептики пугают массовой безработицей из-за внедрения ИИ. Однако реальность свидетельствует, что изменения могут оказаться не столь критическими. И далеко не столь быстрыми.
В 2013 году исследователи из Оксфордского университета подсчитали, что в ближайшие десять—двадцать лет 47% рабочих мест в США могут быть автоматизированы, что приведет к росту безработицы. С момента публикации прошло шесть лет — и безработица в США, наоборот, находится на рекордно низких уровнях за последние пятьдесят лет (3,6%). Аналогичная ситуация наблюдается и в Евросоюзе: в Европе автоматизация создала на полтора миллиона больше рабочих мест, чем уничтожила.
Компания Accenture в 2016 году ожидала, что внедрение ИИ увеличит производительность труда на 40%, поскольку новые технологии кардинально изменят саму природу рабочего процесса. Однако даже в так называемых компаниях-суперзвездах, которые инвестируют и тестируют внутри собственной организации технологии ИИ, например Google, Facebook (соцсеть признана в РФ экстремистской и запрещена) и Amazon, производительность труда не растет.
Как считает профессор Стэнфордского университета и венчурный инвестор Дэвид Черитон, хайп вокруг технологии свидетельствует, что скоро наступит очередная «зима ИИ», которая охарактеризуется разочарованием инвесторов, снижением финансирования и уменьшением общественного интереса к теме. «Вы видите всеобщее возбуждение по поводу ИИ, видите все эти статьи, говорите, что людей выгонят с работы, “умные” машины захватят Вселенную и так далее, — поясняет Черитон. — Это уже было, я был этому свидетелем, а потом наступила зима ИИ. Есть определенные основания для скептицизма на основании одного только опыта». Тем не менее Черитон подчеркивает, что ИИ — очень многообещающая технология.
Профессор Вашингтонского университета Педро Домингос отмечает, что почти каждое десятилетие развития ИИ характеризовалось доминирующей парадигмой направления исследований. В 1950–1960 годы это было обучение нейронных сетей, в 1970-е — символьный подход, в 1980-е — экспертные системы, в 1990-е — байесовские сети, в 2000-е — метод опорных векторов. В 2010-е годы развитие ИИ закольцевалось: доминировать снова стало обучение нейронных сетей. Именно на этой группе технологий базируются главные достижения в области ИИ последних лет: «умный» поиск, распознавание изображений и речи, генерация текстов, которые порой даже выглядят вполне содержательными. Домингос считает, что в 2020-е годы эре глубокого обучения нейронных сетей придет конец, однако он не может ответить на вопрос, какая технология придет на смену.
Колесо времени
По оценкам экспертов Всемирного экономического форума, в 2020 году совокупный объем цифровых данных в мире достигнет 44 зеттабайт — в 40 раз больше, чем звезд в видимой Вселенной. Ежедневно в мире отправляется 500 млн твитов, 294 млрд электронных писем, 65 млрд сообщений в WhatsApp. Каждую минуту люди совершают 3,8 млн поисковых запросов в Google и просматривают 4,5 млн видео на YouTube. Каждое действие пользователя — новый компонент гигантского глобального дата-сета, который можно использовать для обучения нейронных сетей.
Как и в случае закона Мура, объем данных не может увеличиваться с постоянной скоростью бесконечно долго, однако сейчас его рост на взлете. По данным аналитиков International Data Corp, в 2019 году число дата-центров выросло до 9100, в то время как в 2018 году оно составляло лишь 7500. Аналитики компании ожидают, что через год таких центров будет десять тысяч. Дата-центры и сети передачи данных требуют огромного количества энергии: на долю интернета (питание устройства, сетей и дата-центров) приходится пять процентов мирового потребления электроэнергии. Объем потребления электричества интернет-сетями и центрами обработки данных ежегодно увеличивается на семь процентов — быстрее, чем общемировой объем энергопотребления. Уже в 2015 году на долю дата-центров приходилось два процента мировых выбросов парниковых газов — примерно столько же, сколько генерирует гражданская авиация. Согласно прогнозам Climate Home News, к 2025 году на энергопотребление центров хранения и обработки данных будут приходиться 3,2% общемирового объема выбросов углерода, дата-центры будут потреблять не менее 20% мировой электроэнергии. Новые технологии неизбежно упираются в старую добрую ресурсную экономику, и вместо сингулярности нас может ждать технологическая зима. Такой сценарий наиболее вероятным считал Вернор Виндж, назвав его «колесом времени» — череда сменяющих друг друг катастроф и мир будущего, герои которого — археологи и «дайверы мусорных баков», восстанавливающие утраченные инструменты и знания.
Фото: Zuma\tass, Dpa/tass
Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl