Вышедший из-под контроля сверхчеловеческий интеллект – наше обозримое будущее?

Вокруг светаHi-Tech

Бог из машины

Первый роман о захвативших мир разумных машинах был написан еще в XIX веке. Все следующее столетие фантасты пугали нас восстанием роботов. Но что, если вышедший из-под контроля сверхчеловеческий интеллект – уже обозримое будущее. Каким оно может быть?

Текст: Анатолий Глянцев

В 1993 году математик и писатель Вернор Виндж опубликовал статью «Грядущая технологическая сингулярность: как выжить в постчеловеческую эпоху». В ней он заявил: «Мы на грани перемен, сравнимых с появлением на Земле человека. Точная причина этих перемен заключается в том, что развитие техники неизбежно ведет к созданию сущностей с интеллектом, превышающим человеческий».

Виндж видел несколько путей к сверхразуму. Возможно, искусственный интеллект превзойдет человеческий. Или биологи научатся улучшать мозг и сращивать его с компьютером. Тогда сверхразумными станут сами люди – если, конечно, их все еще можно будет назвать людьми. А может быть, компьютерные сети и человеческое общество сольются в единый сверхразумный организм, где каждый отдельный мозг будет винтиком огромной системы.

Любой из этих сценариев изменит жизнь на Земле до неузнаваемости. «Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока», – пишет Виндж. Весь опыт прошлого окажется бесполезен, перемены станут молниеносными, непредсказуемыми и неуправляемыми.

Подобное состояние общества Виндж назвал сингулярностью, позаимствовав термин у физиков. В физике сингулярность – это состояние пространства и времени, в котором будущее теряет связь с прошлым и становится принципиально непредсказуемым.

Вернор Виндж (род. 1944 г.) – математик, писатель-фантаст и футуролог. Один из авторов идеи технологической сингулярности

Позже красивое слово подхватил Рэймонд Курцвейл и другие трансгуманисты. Для них сингулярность – это радикальное улучшение человеческой природы, обретение вечной молодости и сверхчеловеческих способностей. Эти киборги с чипами в мозге, улучшенной ДНК и ремонтными наноботами в артериях, безусловно, будут умнее нас. Но в целом они останутся людьми, только куда более могущественными и счастливыми. Сингулярность Курцвейла – это технологический Эдем, счастливый исход прогресса.

Виндж не разделяет подобного оптимизма. Он предупреждает: сверхразум будет кем угодно, только не человеком. «Натуральные» люди окажутся ему не нужны и не интересны. Вполне возможно, что наши личности растворятся и разрушатся в сверхразумных человеко-компьютерных сетях. Или «бог из машины» уничтожит нас – чтобы не путались под ногами или даже случайно, без злого умысла.

Алан Тьюринг, один из основоположников информатики, в 1950 г. высказал идею машины, которая становится умнее по мере обучения

Когда же появится сверхчеловеческий разум, несущий с собой грозную эпоху сингулярности? «Я удивлюсь, если это случится до 2005 года или после 2030 года» – пишет Виндж в 1993 г., и спустя десять лет не меняет своего мнения.

Теперь еще несколько дат. 2020 год. Ученые обучают нейронную сеть обманывать человека. Компьютер играет с пользователем в простенькую экономическую игру. Задача искусственного интеллекта – подтолкнуть игрока к бесполезному решению, создав иллюзию выгоды. Система преуспевает в этом в 70% случаев. Это обычная, не очень мощная нейросеть, очень далекая от полноценного разума. Одни программы пишут картины, другие переводят тексты, почему бы третьим не манипулировать людьми? Эксперимент показал, что ИИ способен этому обучиться. Умение не сложнее любого другого.

2023 год. Исследовательская группа OpenAI презентует нейронную сеть GPT-4. Перед запуском проверяют, не склонен ли ИИ размножаться, как компьютерный вирус. Удостоверяются, что нейросеть не нанимает людей через интернет и ничего им не поручает. Разумеется, систему никто не учил подобным вещам. Но что, если… она додумается до них сама? Ведь к «человеческим» экзаменам на профессиональные знания ее тоже никто специально не готовил. Однако нейросеть на равных конкурировала с людьми и даже превосходила их. «Мне кажется, что руководство OpenAI понимает, что AGI (искусственный интеллект, равный человеческому – прим. ред.) уже не за горизонтом, а на расстоянии одного условного «Манхэттенского проекта» или чуть больше. По мере движения к AGI деталей о таких проектах мы будем знать все меньше и меньше. Возможно, о релизе GPT 5 вы и вовсе не узнаете», – пишет в Telegram известный специалист по искусственному интеллекту Сергей Марков после релиза GPT-4.

Манхэттенский проект, как известно, продолжался шесть лет и закончился созданием атомной бомбы.

Тропа самосовершенствования

По мнению многих экспертов, самый опасный путь развития искусственного интеллекта – дать ему совершенствовать самого себя. Умная система будет становиться еще умнее, и так без конца. Процесс ускоряет сам себя, как снежная лавина или цепная реакция.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Во глубину сибирских руд Во глубину сибирских руд

По следам декабристов на каторгу в Сибирь

Вокруг света
Герпес после увеличения губ: почему он появляется и как это предотвратить Герпес после увеличения губ: почему он появляется и как это предотвратить

Как не омрачить бьюти-процедуру неприятными последствиями в виде вируса

VOICE
Тихие американцы Тихие американцы

Что ждет коренных американцев в будущем?

Вокруг света
Все по-взрослому: как прошел тест-драйв китайских Jetour в снегах Карелии Все по-взрослому: как прошел тест-драйв китайских Jetour в снегах Карелии

Как ведут себя китайские кроссоверы Jetour в реальной жизни?

Forbes
По следам первопроходцев По следам первопроходцев

Следы эпохи Великих географических открытий – во всей нашей жизни

Вокруг света
ИИ против эксклюзива: как нейросети отбирают самое главное у порноактеров ИИ против эксклюзива: как нейросети отбирают самое главное у порноактеров

Как искусственный интеллект может навредить людям в интимной сфере

Forbes
Слон Жюля Верна Слон Жюля Верна

Креативное продолжение фантазий Жюля Верна в путешествии по его родному городу

Вокруг света
Инструменты семенного продвижения Инструменты семенного продвижения

Доля российских семян может быть существенно больше при грамотном маркетинге

Агроинвестор
Человек улучшенный Человек улучшенный

Самые знаменитые предсказания и проекты усовершенствования человечества

Вокруг света
Галерея истории древней живописи Галерея истории древней живописи

5 (17) февраля 1852 года состоялась церемония открытия Императорского Эрмитажа

Дилетант
Тень Карафуто Тень Карафуто

Южная половина острова Сахалин исторически была тесно связана с японцами

Вокруг света
Садат и Асад Садат и Асад

Война Судного дня планировалась властями Сирии и Египта как реванш

Дилетант
Установка соединения Установка соединения

Зачем сращивать мозг с компьютером?

Вокруг света
Ланские Ланские

Ланские сыграли заметную роль в Наполеоновских войнах и отмене крепостного права

Дилетант
Дочь Ра Дочь Ра

Клеопатре суждено было стать последней царицей относительно независимого Египта

Дилетант
Как работать из дома с пользой для тела и психики Как работать из дома с пользой для тела и психики

Как организовать свой труд на «удаленка» так, чтобы он приносил только пользу

Inc.
Борьба за ярлык Борьба за ярлык

Как Калита начал собирать русские земли вокруг Москвы?

Дилетант
Тайная жизнь манекенов Тайная жизнь манекенов

Манекены в интерьерных и дизайнерских решениях — бизнес семьи Густавсон

Монокль
Почему так плохо, когда все хорошо Почему так плохо, когда все хорошо

Откуда приходит кризис среднего возраста и как не дать ему обрушить все

Men Today
Праздники прошли: как правильно хранить искусственную елку, чтобы на следующий год она выглядела как новая Праздники прошли: как правильно хранить искусственную елку, чтобы на следующий год она выглядела как новая

Эти полезные советы помогут сохранить внешний вид главной героини Нового года

ТехИнсайдер
Ареопаг против Хрущёва Ареопаг против Хрущёва

Властная элита СССР, которая тяжело поддавалась либерализации и реформаторству

Дилетант
Морское пиратство сокращается все последние 10 лет. Но еще есть горячие точки Морское пиратство сокращается все последние 10 лет. Но еще есть горячие точки

Как обстоят дела с морским пиратством по всему миру?

ТехИнсайдер
Смех зверей Смех зверей

Посмеяться любят многие: и обезьяны, и дельфины, и даже грызуны

Вокруг света
Блокировка дифференциала: чтобы ехать увереннее и быстрее Блокировка дифференциала: чтобы ехать увереннее и быстрее

Как работает блокировка дифференциала

РБК
9 самых красивых самолетов: не читать перед началом серьезной работы 9 самых красивых самолетов: не читать перед началом серьезной работы

Самые необычные дизайны самолетов

ТехИнсайдер
Каким был уровень грамотности населения в допетровской России Каким был уровень грамотности населения в допетровской России

Глава из книги «Академия при царском дворе» об образовании в допетровской эпохе

СНОБ
«Чувство, знакомое с глубокого детства»: в чем главный секрет никотиновой зависимости «Чувство, знакомое с глубокого детства»: в чем главный секрет никотиновой зависимости

Почему курение так быстро становится частью жизни человека?

Psychologies
Лаборатория ярких ощущений Лаборатория ярких ощущений

У человека есть пять основных чувств, и их утрата – нелегкое испытание

Зеркало Мира
Как научиться играть на гитаре быстро и без скуки Как научиться играть на гитаре быстро и без скуки

Как подойти к обучению на гитаре так, чтобы не терять задор и мотивацию?

ТехИнсайдер
Нужно ли в квартире ставить розетки с заземлением? Нужно ли в квартире ставить розетки с заземлением?

Можно ли пользоваться по старинке розетками без заземления?

CHIP
Открыть в приложении