Вышедший из-под контроля сверхчеловеческий интеллект – наше обозримое будущее?

Вокруг светаHi-Tech

Бог из машины

Первый роман о захвативших мир разумных машинах был написан еще в XIX веке. Все следующее столетие фантасты пугали нас восстанием роботов. Но что, если вышедший из-под контроля сверхчеловеческий интеллект – уже обозримое будущее. Каким оно может быть?

Текст: Анатолий Глянцев

В 1993 году математик и писатель Вернор Виндж опубликовал статью «Грядущая технологическая сингулярность: как выжить в постчеловеческую эпоху». В ней он заявил: «Мы на грани перемен, сравнимых с появлением на Земле человека. Точная причина этих перемен заключается в том, что развитие техники неизбежно ведет к созданию сущностей с интеллектом, превышающим человеческий».

Виндж видел несколько путей к сверхразуму. Возможно, искусственный интеллект превзойдет человеческий. Или биологи научатся улучшать мозг и сращивать его с компьютером. Тогда сверхразумными станут сами люди – если, конечно, их все еще можно будет назвать людьми. А может быть, компьютерные сети и человеческое общество сольются в единый сверхразумный организм, где каждый отдельный мозг будет винтиком огромной системы.

Любой из этих сценариев изменит жизнь на Земле до неузнаваемости. «Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока», – пишет Виндж. Весь опыт прошлого окажется бесполезен, перемены станут молниеносными, непредсказуемыми и неуправляемыми.

Подобное состояние общества Виндж назвал сингулярностью, позаимствовав термин у физиков. В физике сингулярность – это состояние пространства и времени, в котором будущее теряет связь с прошлым и становится принципиально непредсказуемым.

Вернор Виндж (род. 1944 г.) – математик, писатель-фантаст и футуролог. Один из авторов идеи технологической сингулярности

Позже красивое слово подхватил Рэймонд Курцвейл и другие трансгуманисты. Для них сингулярность – это радикальное улучшение человеческой природы, обретение вечной молодости и сверхчеловеческих способностей. Эти киборги с чипами в мозге, улучшенной ДНК и ремонтными наноботами в артериях, безусловно, будут умнее нас. Но в целом они останутся людьми, только куда более могущественными и счастливыми. Сингулярность Курцвейла – это технологический Эдем, счастливый исход прогресса.

Виндж не разделяет подобного оптимизма. Он предупреждает: сверхразум будет кем угодно, только не человеком. «Натуральные» люди окажутся ему не нужны и не интересны. Вполне возможно, что наши личности растворятся и разрушатся в сверхразумных человеко-компьютерных сетях. Или «бог из машины» уничтожит нас – чтобы не путались под ногами или даже случайно, без злого умысла.

Алан Тьюринг, один из основоположников информатики, в 1950 г. высказал идею машины, которая становится умнее по мере обучения

Когда же появится сверхчеловеческий разум, несущий с собой грозную эпоху сингулярности? «Я удивлюсь, если это случится до 2005 года или после 2030 года» – пишет Виндж в 1993 г., и спустя десять лет не меняет своего мнения.

Теперь еще несколько дат. 2020 год. Ученые обучают нейронную сеть обманывать человека. Компьютер играет с пользователем в простенькую экономическую игру. Задача искусственного интеллекта – подтолкнуть игрока к бесполезному решению, создав иллюзию выгоды. Система преуспевает в этом в 70% случаев. Это обычная, не очень мощная нейросеть, очень далекая от полноценного разума. Одни программы пишут картины, другие переводят тексты, почему бы третьим не манипулировать людьми? Эксперимент показал, что ИИ способен этому обучиться. Умение не сложнее любого другого.

2023 год. Исследовательская группа OpenAI презентует нейронную сеть GPT-4. Перед запуском проверяют, не склонен ли ИИ размножаться, как компьютерный вирус. Удостоверяются, что нейросеть не нанимает людей через интернет и ничего им не поручает. Разумеется, систему никто не учил подобным вещам. Но что, если… она додумается до них сама? Ведь к «человеческим» экзаменам на профессиональные знания ее тоже никто специально не готовил. Однако нейросеть на равных конкурировала с людьми и даже превосходила их. «Мне кажется, что руководство OpenAI понимает, что AGI (искусственный интеллект, равный человеческому – прим. ред.) уже не за горизонтом, а на расстоянии одного условного «Манхэттенского проекта» или чуть больше. По мере движения к AGI деталей о таких проектах мы будем знать все меньше и меньше. Возможно, о релизе GPT 5 вы и вовсе не узнаете», – пишет в Telegram известный специалист по искусственному интеллекту Сергей Марков после релиза GPT-4.

Манхэттенский проект, как известно, продолжался шесть лет и закончился созданием атомной бомбы.

Тропа самосовершенствования

По мнению многих экспертов, самый опасный путь развития искусственного интеллекта – дать ему совершенствовать самого себя. Умная система будет становиться еще умнее, и так без конца. Процесс ускоряет сам себя, как снежная лавина или цепная реакция.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Монархист во главе республики Монархист во главе республики

Гинденбург и представить себе не мог, что превратится в общенациональный символ

Дилетант
В Венгрии нашли пять пострадавших от туберкулеза сарматов В Венгрии нашли пять пострадавших от туберкулеза сарматов

Палеопатологи исследовали останки людей из сарматских памятников,

N+1
Дошли до Волги Дошли до Волги

Как немецкие бюргеры оказались в Поволжье и что вышло из этой авантюры

Вокруг света
«Мастер и Маргарита»: русская классика с иностранными консультантами «Мастер и Маргарита»: русская классика с иностранными консультантами

Новая экранизация «Мастера и Маргариты»: едва ли Булгаков, но захватывающе

Правила жизни
Колосс Херсонский Колосс Херсонский

Среди достижений Григория Потёмкина не только военные и любовные победы

Дилетант
«Ты точно вырвешься». Фрагмент из книги Даши Благовой «Течения» «Ты точно вырвешься». Фрагмент из книги Даши Благовой «Течения»

Отрывок из романа о становлении провинциалки в столице России

СНОБ
Слон Жюля Верна Слон Жюля Верна

Креативное продолжение фантазий Жюля Верна в путешествии по его родному городу

Вокруг света
Как правильно «прикурить» автомобиль, чтобы не навредить его здоровью? Как правильно «прикурить» автомобиль, чтобы не навредить его здоровью?

Что значит «прикурить» автомобиль, и какие провода для этого выбрать?

CHIP
Ум как следствие любви Ум как следствие любви

Эволюция выбирает сильнейших и умнейших – чтобы делать их еще сильнее и умнее

Вокруг света
Почему ни в коем случае нельзя сливать масло в канализацию: кто такие жирберги, и зачем их едят китайцы? Почему ни в коем случае нельзя сливать масло в канализацию: кто такие жирберги, и зачем их едят китайцы?

Как правильно утилизировать масло?

ТехИнсайдер
Сначала было слово Сначала было слово

Художник, который сделал автографы на стенах чем-то большим

Вокруг света
Ошибочные машинные переводы забивают интернет словесным мусором Ошибочные машинные переводы забивают интернет словесным мусором

Как машинные переводы влияют на Интернет и пользователей?

ТехИнсайдер
Человек улучшенный Человек улучшенный

Самые знаменитые предсказания и проекты усовершенствования человечества

Вокруг света
Почему посадка на Луну сегодня сложнее, чем в прошлом Почему посадка на Луну сегодня сложнее, чем в прошлом

Добраться до поверхности Луны все еще остается далеко не простым делом!

ТехИнсайдер
Установка соединения Установка соединения

Зачем сращивать мозг с компьютером?

Вокруг света
Дыра на месте Дыра на месте

Что снимки телескопа показали в галактике M87 спустя год после первых наблюдений

N+1
Увидеть Армагеддон и выжить Увидеть Армагеддон и выжить

Израиль находит, чем удивить путешественника, помимо библейских древностей

Вокруг света
Пенсия с 18 лет и два океана: кто и зачем переезжает в Панаму и как там живется Пенсия с 18 лет и два океана: кто и зачем переезжает в Панаму и как там живется

Рассказываем, как россияне осваиваются в Панаме и что их туда привело

Forbes
На птичьем языке На птичьем языке

В северных турецких горах спрятана небольшая деревенька под названием Кушкёй

Вокруг света
Иллюзия дефекта: 4 принципа общения с особыми детьми Иллюзия дефекта: 4 принципа общения с особыми детьми

Как работать с детьми с нарушениями интеллектуального развития?

Psychologies
Формула мечты Формула мечты

Каким должен быть идеальный болид?

ТехИнсайдер
Для достижения высот нет никаких барьеров: история слепого альпиниста, покорившего Эверест Для достижения высот нет никаких барьеров: история слепого альпиниста, покорившего Эверест

Эрик Вейенмайер — живой пример того, что для человека нет ничего невозможного

ТехИнсайдер
Тёмное зазеркалье Тёмное зазеркалье

Рядом с нами может существовать параллельный зеркальный мир, названный теневым

Наука и жизнь
Муравьи по запаху нашли раненых и полечили противомикробным секретом Муравьи по запаху нашли раненых и полечили противомикробным секретом

Как именно муравьи лечат своих раненых товарищей после набегов на термитники

N+1
«Жить нужно на позитиве!» «Жить нужно на позитиве!»

Денис Провалов не только альпинист, но и спелеолог с мировым именем

Зеркало Мира
Не крутятся кулеры на видеокарте: что делать? Не крутятся кулеры на видеокарте: что делать?

Почему могут не работать кулеры на видеокарте, как решить эту проблему?

CHIP
«Темная психология»: как нами манипулируют, используя «умные» термины «Темная психология»: как нами манипулируют, используя «умные» термины

Каким образом психологические термины превращаются в способ насилия над другими

Psychologies
Что можно сделать из старой занавески для душа: 10+ отличных идей Что можно сделать из старой занавески для душа: 10+ отличных идей

Необычные способы вторично использовать старую занавеску для душа

VOICE
Нужно ли вашей машине малозольное масло: простой ответ на сложный вопрос Нужно ли вашей машине малозольное масло: простой ответ на сложный вопрос

Зачем придумали малозольные масла, в чем их минусы и плюсы?

ТехИнсайдер
3 самые странные и необычные профессии на железной дороге: спорим, вы засмеетесь 3 самые странные и необычные профессии на железной дороге: спорим, вы засмеетесь

Нужно ли учиться, чтобы стать заталкивателем пассажиров?

ТехИнсайдер
Открыть в приложении