Вышедший из-под контроля сверхчеловеческий интеллект – наше обозримое будущее?

Вокруг светаHi-Tech

Бог из машины

Первый роман о захвативших мир разумных машинах был написан еще в XIX веке. Все следующее столетие фантасты пугали нас восстанием роботов. Но что, если вышедший из-под контроля сверхчеловеческий интеллект – уже обозримое будущее. Каким оно может быть?

Текст: Анатолий Глянцев

В 1993 году математик и писатель Вернор Виндж опубликовал статью «Грядущая технологическая сингулярность: как выжить в постчеловеческую эпоху». В ней он заявил: «Мы на грани перемен, сравнимых с появлением на Земле человека. Точная причина этих перемен заключается в том, что развитие техники неизбежно ведет к созданию сущностей с интеллектом, превышающим человеческий».

Виндж видел несколько путей к сверхразуму. Возможно, искусственный интеллект превзойдет человеческий. Или биологи научатся улучшать мозг и сращивать его с компьютером. Тогда сверхразумными станут сами люди – если, конечно, их все еще можно будет назвать людьми. А может быть, компьютерные сети и человеческое общество сольются в единый сверхразумный организм, где каждый отдельный мозг будет винтиком огромной системы.

Любой из этих сценариев изменит жизнь на Земле до неузнаваемости. «Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока», – пишет Виндж. Весь опыт прошлого окажется бесполезен, перемены станут молниеносными, непредсказуемыми и неуправляемыми.

Подобное состояние общества Виндж назвал сингулярностью, позаимствовав термин у физиков. В физике сингулярность – это состояние пространства и времени, в котором будущее теряет связь с прошлым и становится принципиально непредсказуемым.

Вернор Виндж (род. 1944 г.) – математик, писатель-фантаст и футуролог. Один из авторов идеи технологической сингулярности

Позже красивое слово подхватил Рэймонд Курцвейл и другие трансгуманисты. Для них сингулярность – это радикальное улучшение человеческой природы, обретение вечной молодости и сверхчеловеческих способностей. Эти киборги с чипами в мозге, улучшенной ДНК и ремонтными наноботами в артериях, безусловно, будут умнее нас. Но в целом они останутся людьми, только куда более могущественными и счастливыми. Сингулярность Курцвейла – это технологический Эдем, счастливый исход прогресса.

Виндж не разделяет подобного оптимизма. Он предупреждает: сверхразум будет кем угодно, только не человеком. «Натуральные» люди окажутся ему не нужны и не интересны. Вполне возможно, что наши личности растворятся и разрушатся в сверхразумных человеко-компьютерных сетях. Или «бог из машины» уничтожит нас – чтобы не путались под ногами или даже случайно, без злого умысла.

Алан Тьюринг, один из основоположников информатики, в 1950 г. высказал идею машины, которая становится умнее по мере обучения

Когда же появится сверхчеловеческий разум, несущий с собой грозную эпоху сингулярности? «Я удивлюсь, если это случится до 2005 года или после 2030 года» – пишет Виндж в 1993 г., и спустя десять лет не меняет своего мнения.

Теперь еще несколько дат. 2020 год. Ученые обучают нейронную сеть обманывать человека. Компьютер играет с пользователем в простенькую экономическую игру. Задача искусственного интеллекта – подтолкнуть игрока к бесполезному решению, создав иллюзию выгоды. Система преуспевает в этом в 70% случаев. Это обычная, не очень мощная нейросеть, очень далекая от полноценного разума. Одни программы пишут картины, другие переводят тексты, почему бы третьим не манипулировать людьми? Эксперимент показал, что ИИ способен этому обучиться. Умение не сложнее любого другого.

2023 год. Исследовательская группа OpenAI презентует нейронную сеть GPT-4. Перед запуском проверяют, не склонен ли ИИ размножаться, как компьютерный вирус. Удостоверяются, что нейросеть не нанимает людей через интернет и ничего им не поручает. Разумеется, систему никто не учил подобным вещам. Но что, если… она додумается до них сама? Ведь к «человеческим» экзаменам на профессиональные знания ее тоже никто специально не готовил. Однако нейросеть на равных конкурировала с людьми и даже превосходила их. «Мне кажется, что руководство OpenAI понимает, что AGI (искусственный интеллект, равный человеческому – прим. ред.) уже не за горизонтом, а на расстоянии одного условного «Манхэттенского проекта» или чуть больше. По мере движения к AGI деталей о таких проектах мы будем знать все меньше и меньше. Возможно, о релизе GPT 5 вы и вовсе не узнаете», – пишет в Telegram известный специалист по искусственному интеллекту Сергей Марков после релиза GPT-4.

Манхэттенский проект, как известно, продолжался шесть лет и закончился созданием атомной бомбы.

Тропа самосовершенствования

По мнению многих экспертов, самый опасный путь развития искусственного интеллекта – дать ему совершенствовать самого себя. Умная система будет становиться еще умнее, и так без конца. Процесс ускоряет сам себя, как снежная лавина или цепная реакция.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Десять цветов Десять цветов

Самые древние и почитаемые традиционные ремесла – часть культурного кода Мьянмы

Вокруг света
Лариса Луппиан: «Мой служебный роман» Лариса Луппиан: «Мой служебный роман»

Невозможно жить одной лишь семьей, если нет творчества и любви к какому-то делу

Караван историй
AI: сложности восприятия AI: сложности восприятия

Взгляд на ИИ как на инструмент, который формирует наше настоящее и будущее

Вокруг света
В гостях у лабынкырского черта В гостях у лабынкырского черта

Есть в Оймяконском улусе одна достопримечательность, весьма суровая...

Зеркало Мира
О «LA’Театре» О «LA’Театре»

О театральной повестке в «LA’Театре»

Дилетант
Сложный мир разработки компьютерных игр: 5 книг для тех, кто хочет разобраться в геймдеве Сложный мир разработки компьютерных игр: 5 книг для тех, кто хочет разобраться в геймдеве

Пять книг, которые помогут сориентироваться в мире разработки игр

ТехИнсайдер
Как фитнес-приложения могут навредить психике и какие принесут пользу Как фитнес-приложения могут навредить психике и какие принесут пользу

Приложения для здоровья могут привести к ухудшению физического состояния

РБК
12 способов повысить кровяное давление 12 способов повысить кровяное давление

Есть ли способ быстро поднять давление дома?

ТехИнсайдер
Интересный факт! Вот почему прогресс не сделал людей счастливее: мнение эксперта Интересный факт! Вот почему прогресс не сделал людей счастливее: мнение эксперта

Почему, несмотря на позитивные изменения в мире, люди чувствуют себя подавленно?

ТехИнсайдер
Генерал Касем, правитель Ирака Генерал Касем, правитель Ирака

В период с 1958 по 1963 год чаще всего на марках Ирака появлялся генерал Касем

Дилетант
Ныть — хорошо и полезно: 5 аргументов «за» Ныть — хорошо и полезно: 5 аргументов «за»

Почему всем нам иногда нужно хорошенько поныть?

Psychologies
Металлический привкус во рту: что вызывает это странное ощущение Металлический привкус во рту: что вызывает это странное ощущение

Чувствуете на языке вкус металла? Вот почему он может возникать

ТехИнсайдер
Блумерсы, Коко Шанель и «Работница»: как и когда женщины стали носить брюки Блумерсы, Коко Шанель и «Работница»: как и когда женщины стали носить брюки

Как и когда у представительниц женского пола появилась возможность носить брюки

ТехИнсайдер
Что стоит за желанием поздравить бывших партнеров: 4 мотива Что стоит за желанием поздравить бывших партнеров: 4 мотива

Почему в праздничные дни мы чаще вспоминаем своих бывших партнеров?

Psychologies
Чудеса какие-то! Чудеса какие-то!

Эту фотосъемку Максим Лагашкин экстренно делал на отдыхе

OK!
Дефицитная любовь: что это такое Дефицитная любовь: что это такое

Почему даже в благополучных с виду семьях мы часто живем такими несчастными?

Psychologies
Слово пацана Слово пацана

Будет ли ренессанс «Ленфильма»? Станет ли квартал в центре модным районом?

Собака.ru
Почему нельзя полностью исключать сахар из рациона Почему нельзя полностью исключать сахар из рациона

Натуральным подсластителям иногда придают «ореол здоровья». Но так ли это?

ТехИнсайдер
Сыр. Прыжок молока к бессмертию Сыр. Прыжок молока к бессмертию

Есть мнение, что впервые сыр у древних людей получился случайно

Зеркало Мира
Как работает удивительная коробка передач eCVT в гибридных машинах Как работает удивительная коробка передач eCVT в гибридных машинах

Постигаем магию необычной трансмиссии eCVT в гибридных машинах

ТехИнсайдер
Кто такие «гаражные виноделы» и за кем из них стоит следить Кто такие «гаражные виноделы» и за кем из них стоит следить

Кто такие российские гаражные виноделы? Откуда появилось это понятие?

СНОБ
Океанический венус, посидония и тихоходка: организмы, которые дольше всех могут жить на планете Океанический венус, посидония и тихоходка: организмы, которые дольше всех могут жить на планете

Эти существа могут не стареть и поддерживать свою жизнедеятельность очень долго

ТехИнсайдер
Игорь Губарь: Что кроме хай-джека может пригодиться на бездорожье? Игорь Губарь: Что кроме хай-джека может пригодиться на бездорожье?

Что каждому уважающему себя автопутешественнику нужно брать с собой?

4x4 Club
Как правильно ссориться и мириться с мужчиной: 7 важных нюансов Как правильно ссориться и мириться с мужчиной: 7 важных нюансов

В чем главный секрет долгих и крепких взаимоотношений между мужчиной и женщиной?

Psychologies
Как не угробить свой телефон на морозе: инструкция по применению Как не угробить свой телефон на морозе: инструкция по применению

Рекомендации, чтобы телефон смог работать при сильном морозе

ТехИнсайдер
Пневмония без температуры Пневмония без температуры

6 симптомов, по которым можно узнать пневмонию

Лиза
4 телесные практики, которые помогут снизить тревогу, гнев и страх 4 телесные практики, которые помогут снизить тревогу, гнев и страх

Как телесно-ориентированные практики помогает справиться с тревожностью

Psychologies
«Айлин»: ретро-триллер о нереализованных амбициях с Энн Хэтэуэй и Томасин Маккензи «Айлин»: ретро-триллер о нереализованных амбициях с Энн Хэтэуэй и Томасин Маккензи

Почему «Айлин» нельзя назвать успешной экранизацией?

Forbes
Не вешать нос: 8 отличных фильмов на случай, если вам хочется погрустить Не вешать нос: 8 отличных фильмов на случай, если вам хочется погрустить

Трогательные киноистории о любви, семье и поиске себя

Правила жизни
Хореограф Денис Тагинцев: Танец дарит радость и заряд эйфории Хореограф Денис Тагинцев: Танец дарит радость и заряд эйфории

Интервью с Денисом Тагинцевым: как успешно совмещать задачи продюсера и артиста

СНОБ
Открыть в приложении