TatlerЗнаменитости

Горе от интеллекта

У мил­ли­ар­де­ра Ило­на Мас­ка мас­са по­во­дов улы­бать­ся. Раке­ты ле­та­ют, «Тес­ла» ста­ла до­ро­же «фор­да», а он сам — бо­га­че Рома­на Абра­мо­ви­ча. Но у ги­ган­та мыс­ли Крем­ни­е­вой до­ли­ны все рав­но бо­лит го­ло­ва, и не из-за ро­ма­на с Эмбер Хёрд.

Текст: Морин Дауд. Фото: Jonas Fredwall Karlsson

О чем го­во­рят муж­чи­ны Крем­ни­е­вой до­ли­ны за обе­дом в сто­ло­вой? Конеч­но, о том, как спа­сти человечество.
— Луч­ший спо­соб остать­ся в жи­вых — уле­теть на Марс, — до­ка­зы­ва­ет один. — А для это­го надо его колонизировать.
— «Оста­но­ви­те Зем­лю, я сой­ду», — кри­чат толь­ко лу­зе­ры, — от­ве­ча­ет дру­гой. — Сбе­жать мо­жет каж­дый, для это­го мозг не ну­жен. Надо ис­поль­зо­вать шанс сде­лать нашу пла­не­ту луч­ше. И в этом по­мо­жет ис­кус­ствен­ный интеллект.
— Для того и надо осво­ить Марс — что­бы, ко­гда твой ис­кус­ствен­ный ин­тел­лект за­хва­тит Зем­лю, было где спастись.
— Наив­ный! На то он и су­перин­тел­лект: он про­сто уле­тит на Марс вслед за вами.

При­мер­но та­кую за­ду­шев­ную бе­се­ду вели не­сколь­ко лет на­зад меж­ду пер­вым и вто­рым на ра­кет­но-кос­ми­че­ском за­во­де SpaceX в при­го­ро­де Лос-Андже­ле­са его вла­де­лец, об­ла­да­тель со­сто­я­ния в сем­на­дцать мил­ли­ар­дов дол­ла­ров Илон Маск и один из раз­ра­бот­чи­ков ис­кус­ствен­но­го ин­тел­лек­та, без ма­ло­го мил­ли­ар­дер Демис Хас­са­бис. Мас­ка на­зы­ва­ют ве­ли­ким ком­би­на­то­ром эпо­хи мил­ле­ни­а­лов — от каж­дой его идеи, на­чи­ная с ко­ло­ни­за­ции Мар­са и за­кан­чи­вая про­клад­кой хай­ве­ев в тон­не­лях под Лос-Андже­ле­сом, веет про­ек­том пре­вра­ще­ния Ста­рых Васю­ков в Нью-Моск­ву. А еще гла­ва SpaceX и Tesla — Ким Кар­да­шьян Крем­ни­е­вой до­ли­ны: не про­хо­дит не­де­ли, что­бы в но­вост­ных лен­тах не по­яви­лось упо­ми­на­ния о мил­ли­ар­де­ре. Любое его те­ло­дви­же­ние изу­ча­ют под мик­ро­ско­пом. Маск не под­во­дит. Толь­ко за по­след­ние пол­го­да он, по соб­ствен­но­му при­зна­нию «по­лу­де­мо­крат, по­лу­рес­пуб­ли­ка­нец», успел по­кри­ти­ко­вать Дональ­да Трам­па, по­сле его ина­у­гу­ра­ции со­об­щить, что бу­дет рад по­слу­жить его со­вет­ни­ком, по­то­му что «чем боль­ше го­ло­сов ра­зу­ма слы­шит пре­зи­дент, тем луч­ше». Пошан­та­жи­ро­вать, что уво­лит­ся из со­ве­та, если США вый­дут из со­гла­ше­ния об из­ме­не­нии кли­ма­та. И на весь ин­тер­нет хлоп­нуть две­рью, ко­гда Трамп объ­явил о вы­хо­де. В со­вет­ской прес­се та­ких де­я­те­лей на­зы­ва­ли по­ли­ти­че­ски­ми флю­ге­ра­ми. Сей­час все ува­жа­ют Мас­ка за прин­ци­пи­аль­ность, чет­кую по­зи­цию, де­ло­вое чу­тье и стра­те­ги­че­ское мышление.

Демис Хас­са­бис же — ду­хов­ный сын ин­же­не­ра Гари­на и док­то­ра Фран­кен­штей­на. В та­ин­ствен­ных ла­бо­ра­то­ри­ях сво­ей лон­дон­ской фир­мы DeepMind он тихо учит ком­пью­тер иг­рать в ви­део­иг­ры, рас­по­зна­вать речь и за­ни­ма­ет­ся с ним черт зна­ет чем еще про­ти­во­есте­ствен­ным. Пока его де­ти­ще ско­рее ба­лов­ство: со­би­ра­ет лен­ту но­во­стей в на­ших фейс­бу­ках, по­мо­га­ет Siri най­ти бли­жай­ший «Мак­до­нал­дс», за­со­ря­ет по­чту ре­кла­мой лу­бу­те­нов и вы­ста­вок Ван Гога, ко­то­рые мы гуг­ли­ли в на­ча­ле се­зо­на. Ком­па­ни­ей DeepMind, к сло­ву, вла­де­ет как раз Google. Кор­по­ра­ция не­ко­то­рое вре­мя на­зад сме­ни­ла при­о­ри­те­ты и де­ла­ет те­перь став­ку не на раз­ви­тие ро­бо­то­тех­ни­ки, а на раз­ра­бот­ку ис­кус­ствен­но­го ин­тел­лек­та. Появи­лось под­раз­де­ле­ние Google Brain, были на­ня­ты ве­ду­щие ми­ро­вые ис­сле­до­ва­те­ли ней­ро­се­тей и фу­ту­ри­сты вро­де изоб­ре­та­те­ля са­мо­обу­ча­е­мой ней­ро­се­ти Джеф­ф­ри Хин­то­на и ав­то­ра бест­сел­ле­ров о ско­ром при­ше­ствии син­гу­ляр­но­сти Рей­мон­да Курцвейла.

До того как три года на­зад по­ис­ко­вик при­об­рел себе ком­пью­тер­ный мозг Хас­са­би­са (за­пла­тив шесть­сот пять­де­сят мил­ли­о­нов дол­ла­ров — как го­во­рят, боль­ше, чем да­вал Facebook (соцсеть признана в РФ экстремистской и запрещена)), Маск был од­ним из ин­ве­сто­ров DeepMind. Не ради при­бы­ли, рас­ска­зы­ва­ет мне сей­час со­ро­ка­ше­сти­лет­ний мил­ли­ар­дер: «Это поз­во­ля­ло мне дер­жать руку на пуль­се. Ско­рость раз­ви­тия ис­кус­ствен­но­го ин­тел­лек­та рас­тет го­раз­до быст­рее, чем пред­став­ля­ет­ся обы­ва­те­лям. У вас на гла­зах средь бела дня ведь не раз­гу­ли­ва­ют роботы».

В Крем­ни­е­вой до­ли­не ан­дро­и­ды, ви­ди­мо, уже чув­ству­ют себя как ге­рои «Тат­ле­ра» на пля­же Пам­пе­лон, по­то­му что рас­ска­зов Мас­ка о на­ме­ча­ю­щем­ся вос­ста­нии ма­шин ис­пу­га­лись даже не­роб­кие го­сти фев­раль­ско­го Все­мир­но­го пра­ви­тель­ствен­но­го сам­ми­та в Дубае. Гени­аль­ный мар­ке­то­лог тут же пред­ло­жил чи­нов­ни­кам очень до­ро­гое, но без­от­каз­ное сред­ство спа­се­ния: что­бы ком­пью­тер не вы­шел из-под кон­тро­ля, надо срас­тить ин­тел­лект ис­кус­ствен­ный и че­ло­ве­че­ский. Напри­мер, вжив­лять в мозг «ней­рон­ное кру­же­во». Оно мог­ло бы за­гру­жать ин­фор­ма­цию из че­ло­ве­че­ской го­ло­вы по вай­фаю сра­зу в ком­пью­тер или во­об­ще во все­мир­ное об­ла­ко дан­ных. «Мы ведь и так уже прак­ти­че­ски ки­бор­ги, — уте­шал меня то­гда Маск со сво­им ча­ру­ю­щим юж­но­аф­ри­кан­ским ак­цен­том. — Теле­фон, ком­пью­тер — это ваше про­дол­же­ние. Но ваше вза­и­мо­дей­ствие про­ис­хо­дит с по­мо­щью дви­же­ния паль­цев или речи, а это очень мед­лен­но. Управ­ля­е­мый моз­гом ин­тер­фейс по­явит­ся, ду­маю, че­рез че­ты­ре-пять лет». Сбы­лась меч­та ака­де­ми­ка Вернадского.

В Крем­ни­е­вой до­ли­не все, вплоть до ку­ха­рок, убеж­де­ны: мы строй­ны­ми ря­да­ми дви­жем­ся в свет­лое бу­ду­щее, где жить ста­нет луч­ше, жить ста­нет ве­се­лее бла­го­да­ря ра­бо­те их свет­лых го­лов. Люди нач­нут уми­рать в сто пять­де­сят, не рань­ше, бу­дут по­беж­де­ны бо­лез­ни, улуч­шит­ся со­сто­я­ние окру­жа­ю­щей сре­ды. Одним сло­вом, ста­нет бы­лью сказ­ка из ин­ста­гра­ма — веч­ная жизнь в би­ки­ни с «Мар­га­ри­той» в од­ной руке и ай­фо­ном в дру­гой. Един­ствен­ное не­удоб­ство — люди, ко­то­рые в этом бу­ду­щем, по вы­ра­же­нию со­ос­но­ва­те­ля Apple Сти­ва Воз­ня­ка, ока­жут­ся для ком­пью­те­ров вро­де до­маш­них пи­том­цев. Гики спо­рят не о том, слу­чит­ся ли это во­об­ще, а о том, как ско­ро слу­чит­ся. Навер­ное, по­доб­ным об­ра­зом пас­са­жи­ры «Тита­ни­ка» спо­ри­ли, как ско­ро от­ка­ча­ют воду из трю­мов. И лишь Маск во­пит, как си­ре­на: спус­кай­те шлюп­ки! «Впол­не воз­мож­но, что мы дав­но жи­вем в вир­ту­аль­ной ре­аль­но­сти, ко­то­рую про­еци­ру­ют пред­ста­ви­те­ли бо­лее вы­со­ко­раз­ви­той ци­ви­ли­за­ции», — за­явил ви­зи­о­нер на од­ной из кон­фе­рен­ций в Кали­фор­нии. И вот уже, как со­об­ща­ет­ся, сра­зу два крем­ни­е­вых мил­ли­ар­де­ра ра­бо­та­ют над тем, как выз­во­лить нас всех из этой матрицы.

О том, что ис­кус­ствен­ный ин­тел­лект — это ве­ли­чай­шая угро­за су­ще­ство­ва­нию че­ло­ве­че­ства, Маск на­чал кри­чать на каж­дом углу еще три года на­зад. Задол­го до того, как мир при­лип к се­ри­а­лу «Мир Дико­го Запа­да», где ан­дро­и­ды вос­ста­ли про­тив лю­дей (не все из ко­то­рых, к сло­ву, люди). Мил­ли­ар­дер бо­ит­ся даже по­лез­ных ро­бо­тов. «Пред­ставь­те: вы при­ду­ма­ли са­мо­обу­ча­е­мую ма­ши­ну, ко­то­рая со­би­ра­ет клуб­ни­ку, — рас­ска­зы­ва­ет он. — Она с каж­дым днем со­би­ра­ет ее все луч­ше и луч­ше, все боль­ше и боль­ше. Ей на­чи­на­ет нра­вить­ся со­би­рать клуб­ни­ку. Логич­но, что в ка­кой-то мо­мент ей за­хо­чет­ся, что­бы на всей пла­не­те были сплош­ные клуб­нич­ные поля. А те­перь пред­ставь­те, что вы со­би­ра­е­тесь вы­клю­чить та­ко­го ро­бо­та, что­бы он не уни­что­жил че­ло­ве­че­ство, пы­та­ясь за­са­дить все клуб­ни­кой. Вы бу­де­те пер­вым, кого он убьет».

В за­па­ле Маск даже при­звал кон­тро­ли­ро­вать раз­ра­бот­ку ком­пью­тер­но­го моз­га на го­су­дар­ствен­ном уров­не. А с тем, кто ве­дет та­кие речи, в Крем­ни­е­вой до­ли­не не про­сто не са­дят­ся за один стол грызть кейл, а да­ром что не сжи­га­ют на ко­ст­ре, как Джор­да­но Бру­но. Маск, как вся­кий фа­на­тик, от ана­фем лишь силь­нее за­во­дит­ся. «Вы раз­бу­ди­те де­мо­на, — про­ро­че­ству­ет он. — И то­гда спра­вить­ся с ним с по­мо­щью свя­той воды уже не получится».

Не то что­бы мил­ли­ар­дер-эк­зор­цист один в крем­ни­е­вом поле воин. Сти­вен Хокинг, к при­ме­ру, тоже счи­та­ет, что раз­ра­бот­ка пол­но­цен­но­го ис­кус­ствен­но­го ин­тел­лек­та мо­жет озна­чать ко­нец рода че­ло­ве­че­ско­го. Билл Гейтс уве­рен, что ма­шин­ный ра­зум по­тен­ци­аль­но опас­нее ядер­ной вой­ны. А удав Каа аме­ри­кан­ской по­ли­ти­ки Ген­ри Кис­син­джер срав­ни­ва­ет пер­спек­ти­вы со­труд­ни­че­ства лю­дей и ком­пью­те­ров со встре­чей ин­ков и ис­пан­ских кон­ки­ста­до­ров. Одна­ко про­ис­хо­дя­щее сей­час в Крем­ни­е­вой до­ли­не на­зы­ва­ют кре­сто­вым по­хо­дом имен­но что Ило­на Мас­ка, а са­мые ярые по­сле­до­ва­те­ли во­об­ще счи­та­ют его спа­си­те­лем. «Искус­ствен­ный ин­тел­лект — это зо­ло­той те­лец, ко­то­ро­му се­го­дня здесь все по­кло­ня­ют­ся, — го­во­рит отец вир­ту­аль­ной ре­аль­но­сти, про­грам­мист Microsoft Джа­рон Ланье. — Это ведь так при­ят­но — чув­ство­вать, что ты мо­жешь что-то, чего не мо­гут все осталь­ные. Папа рим­ский не мо­жет. Пре­зи­дент не мо­жет. Никто не мо­жет. А про­грам­мист мо­жет. Он — бог».