Вышедший из-под контроля сверхчеловеческий интеллект – наше обозримое будущее?

Вокруг светаHi-Tech

Бог из машины

Первый роман о захвативших мир разумных машинах был написан еще в XIX веке. Все следующее столетие фантасты пугали нас восстанием роботов. Но что, если вышедший из-под контроля сверхчеловеческий интеллект – уже обозримое будущее. Каким оно может быть?

Текст: Анатолий Глянцев

В 1993 году математик и писатель Вернор Виндж опубликовал статью «Грядущая технологическая сингулярность: как выжить в постчеловеческую эпоху». В ней он заявил: «Мы на грани перемен, сравнимых с появлением на Земле человека. Точная причина этих перемен заключается в том, что развитие техники неизбежно ведет к созданию сущностей с интеллектом, превышающим человеческий».

Виндж видел несколько путей к сверхразуму. Возможно, искусственный интеллект превзойдет человеческий. Или биологи научатся улучшать мозг и сращивать его с компьютером. Тогда сверхразумными станут сами люди – если, конечно, их все еще можно будет назвать людьми. А может быть, компьютерные сети и человеческое общество сольются в единый сверхразумный организм, где каждый отдельный мозг будет винтиком огромной системы.

Любой из этих сценариев изменит жизнь на Земле до неузнаваемости. «Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока», – пишет Виндж. Весь опыт прошлого окажется бесполезен, перемены станут молниеносными, непредсказуемыми и неуправляемыми.

Подобное состояние общества Виндж назвал сингулярностью, позаимствовав термин у физиков. В физике сингулярность – это состояние пространства и времени, в котором будущее теряет связь с прошлым и становится принципиально непредсказуемым.

Вернор Виндж (род. 1944 г.) – математик, писатель-фантаст и футуролог. Один из авторов идеи технологической сингулярности

Позже красивое слово подхватил Рэймонд Курцвейл и другие трансгуманисты. Для них сингулярность – это радикальное улучшение человеческой природы, обретение вечной молодости и сверхчеловеческих способностей. Эти киборги с чипами в мозге, улучшенной ДНК и ремонтными наноботами в артериях, безусловно, будут умнее нас. Но в целом они останутся людьми, только куда более могущественными и счастливыми. Сингулярность Курцвейла – это технологический Эдем, счастливый исход прогресса.

Виндж не разделяет подобного оптимизма. Он предупреждает: сверхразум будет кем угодно, только не человеком. «Натуральные» люди окажутся ему не нужны и не интересны. Вполне возможно, что наши личности растворятся и разрушатся в сверхразумных человеко-компьютерных сетях. Или «бог из машины» уничтожит нас – чтобы не путались под ногами или даже случайно, без злого умысла.

Алан Тьюринг, один из основоположников информатики, в 1950 г. высказал идею машины, которая становится умнее по мере обучения

Когда же появится сверхчеловеческий разум, несущий с собой грозную эпоху сингулярности? «Я удивлюсь, если это случится до 2005 года или после 2030 года» – пишет Виндж в 1993 г., и спустя десять лет не меняет своего мнения.

Теперь еще несколько дат. 2020 год. Ученые обучают нейронную сеть обманывать человека. Компьютер играет с пользователем в простенькую экономическую игру. Задача искусственного интеллекта – подтолкнуть игрока к бесполезному решению, создав иллюзию выгоды. Система преуспевает в этом в 70% случаев. Это обычная, не очень мощная нейросеть, очень далекая от полноценного разума. Одни программы пишут картины, другие переводят тексты, почему бы третьим не манипулировать людьми? Эксперимент показал, что ИИ способен этому обучиться. Умение не сложнее любого другого.

2023 год. Исследовательская группа OpenAI презентует нейронную сеть GPT-4. Перед запуском проверяют, не склонен ли ИИ размножаться, как компьютерный вирус. Удостоверяются, что нейросеть не нанимает людей через интернет и ничего им не поручает. Разумеется, систему никто не учил подобным вещам. Но что, если… она додумается до них сама? Ведь к «человеческим» экзаменам на профессиональные знания ее тоже никто специально не готовил. Однако нейросеть на равных конкурировала с людьми и даже превосходила их. «Мне кажется, что руководство OpenAI понимает, что AGI (искусственный интеллект, равный человеческому – прим. ред.) уже не за горизонтом, а на расстоянии одного условного «Манхэттенского проекта» или чуть больше. По мере движения к AGI деталей о таких проектах мы будем знать все меньше и меньше. Возможно, о релизе GPT 5 вы и вовсе не узнаете», – пишет в Telegram известный специалист по искусственному интеллекту Сергей Марков после релиза GPT-4.

Манхэттенский проект, как известно, продолжался шесть лет и закончился созданием атомной бомбы.

Тропа самосовершенствования

По мнению многих экспертов, самый опасный путь развития искусственного интеллекта – дать ему совершенствовать самого себя. Умная система будет становиться еще умнее, и так без конца. Процесс ускоряет сам себя, как снежная лавина или цепная реакция.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Тень Карафуто Тень Карафуто

Южная половина острова Сахалин исторически была тесно связана с японцами

Вокруг света
Мозг обрабатывает необычные ситуации с помощью специальных нейронов Мозг обрабатывает необычные ситуации с помощью специальных нейронов

Как клетки-канделябры в мозгу «обращают» наше внимание на перемены

ТехИнсайдер
Схема мироздания Схема мироздания

Что объединяет орнамент, тело человека, элементарные частицы и земной шар?

Вокруг света
От заявления до свидетельства: все, что нужно знать о процедуре развода От заявления до свидетельства: все, что нужно знать о процедуре развода

Как расторгнуть брак «своими силами»?

Forbes
Параллельные люди Параллельные люди

С какими альтернативными человечествами мы могли бы делить Землю?

Вокруг света
Тестостерон оказался ответственен за чувствительность к общей анестезии Тестостерон оказался ответственен за чувствительность к общей анестезии

Чувствительность к общей анестезии модулируется тестостероном

N+1
Дошли до Волги Дошли до Волги

Как немецкие бюргеры оказались в Поволжье и что вышло из этой авантюры

Вокруг света
С хмелем сумеем? С хмелем сумеем?

В стране нужно активнее развивать хмелеводство для импортонезависимости

Агроинвестор
Зонд Неймана Зонд Неймана

Серая слизь: сценарий апокалипсиса

Вокруг света
«Настоящий мужчина»: 5 советов, как найти общий язык с партнером «Настоящий мужчина»: 5 советов, как найти общий язык с партнером

Как научиться видеть и принимать мужчину таким, какой он есть?

Psychologies
Человек улучшенный Человек улучшенный

Самые знаменитые предсказания и проекты усовершенствования человечества

Вокруг света
Все Пресли только о любви Все Пресли только о любви

«Присцилла: Элвис и я»: София Коппола экранизирует мемуары Присциллы Пресли

Weekend
Сначала было слово Сначала было слово

Художник, который сделал автографы на стенах чем-то большим

Вокруг света
Кипит суп – котелок друг, стук-бряк – котелок враг! Кипит суп – котелок друг, стук-бряк – котелок враг!

Думаете, котел – банальная штука? Думаете, он только для похода и рыбалки?

Зеркало Мира
Установка соединения Установка соединения

Зачем сращивать мозг с компьютером?

Вокруг света
10 лучших триллеров последних лет, которые стоит посмотреть 10 лучших триллеров последних лет, которые стоит посмотреть

Триллеры с харизматичными героями, которым хочется сопереживать

Правила жизни
Несущая смерть Несущая смерть

Как Горгона обращала людей в камень и могло ли существовать подобное «биооружие»

Вокруг света
«Рыбное дело»: первый судебный процесс о коррупции в СССР «Рыбное дело»: первый судебный процесс о коррупции в СССР

Скандал, связанный с сетью магазинов «Океан», был громким

ТехИнсайдер
Мы из будущего Мы из будущего

Кто же такие эти промт-дизайнеры или AI-тренеры?

ТехИнсайдер
Идеальное свидание: романтические выходные только для двоих Идеальное свидание: романтические выходные только для двоих

Мы собрали лучшие идеи, которые помогут парам расслабиться

Караван историй
Борис Ельцин: «Я ухожу не по болезни» Борис Ельцин: «Я ухожу не по болезни»

Интервью с Валентином Юмашевым, зятем Бориса Ельцина, о событиях конца 1999 года

Дилетант
Мороз по коже: лютые и дикие способы, которыми народ в СССР согревался, когда не было отопления Мороз по коже: лютые и дикие способы, которыми народ в СССР согревался, когда не было отопления

Газеты, рейтузы и ковры: как согревались люди в СССР

Maxim
Девять технологий, которые не оправдали надежд Девять технологий, которые не оправдали надежд

Могли ли эти технологии перевернуть мир или на них возложили напрасные ожидания?

Монокль
«Я все»: зачем маркетологи убеждают нас, что выгорание — это общественная эпидемия «Я все»: зачем маркетологи убеждают нас, что выгорание — это общественная эпидемия

Глава из книги «Я все! Почему мы выгораем на работе и как это изменить»

Forbes
Денис Джонсон: «Дымовое древо». Отрывок из романа Денис Джонсон: «Дымовое древо». Отрывок из романа

Отрывок из мощной, маскулинной прозе об ужасах войны во Вьетнаме

СНОБ
Встраиваемая бытовая техника: за и против Встраиваемая бытовая техника: за и против

Встраиваемая техника выглядит современно и красиво, но стоит ли она своих денег?

CHIP
Кто такой «каблук» и как мужчина им становится: 3 сценария Кто такой «каблук» и как мужчина им становится: 3 сценария

Когда быть мужчиной-«подкаблучником» — (не) плохо?

Psychologies
Лариса Луппиан: «Мой служебный роман» Лариса Луппиан: «Мой служебный роман»

Невозможно жить одной лишь семьей, если нет творчества и любви к какому-то делу

Караван историй
Как была устроена жизнь в Каунасском гетто. Воспоминания узника Как была устроена жизнь в Каунасском гетто. Воспоминания узника

Воспоминания о Холокосте: отрывок из книги «Сквозь колючую проволоку»

СНОБ
Кто такой Никита Кологривый, который осуждает всех подряд Кто такой Никита Кологривый, который осуждает всех подряд

Как и о ком высказывался скандально известный Никита Кологривый

Maxim
Открыть в приложении