«Василиск Роко» продолжает жить и угрожать всем, кто знает о нем

ТехИнсайдерРепортаж

Самый опасный мысленный эксперимент в истории: рождение «Василиска Роко»

12 лет назад на одном онлайн-форуме прозвучала идея, выводы из которой показались участникам слишком пугающими. Они попытались уничтожить все следы своих дискуссий, но интернет помнит все, и сегодня «Василиск Роко» продолжает жить и угрожать всем, кто знает о нем.

Роман Фишман

2e480543cc74705bb5476bb79245cc00_ce_1807x1203x0x173.jpg
Aberdeen University Library Online Collections

В этой истории много «если». Если искусственный интеллект когда-нибудь получит неограниченную власть над человечеством. Если он задастся целью судить людей, оставив лишь «правильных» и жестоко наказав всех «неправильных», ненужных для общего блага. Если вы верите, что такое будущее вполне вероятно, — тогда читать дальше не стоит.

Это первое предупреждение: когда вы доберетесь до конца текста, пути обратно уже не будет.

Кот и демоны

Мысленные эксперименты — древний и уважаемый способ познания. Они позволяют обдумать ситуации, которые сложно или или невозможно воплотить на практике, обсудить приложения законов природы в самых неожиданных обстоятельствах. Можно вспомнить кота Шредингера, одновременные жизнь и смерть которого помогают разобрать некоторые парадоксальные аспекты квантовой механики. Или — термодинамических демонов Максвелла, способных отбирать быстро движущиеся частицы, блокируя движение медленных. Впрочем, термодинамические демоны страшны лишь названием и вполне безобидны. Чего нельзя сказать о «василиске», родившемся в 2010 г.

490cf08378624211c3c4a440d001a924.jpg

Все случилось на онлайн-форуме LessWrong, организованном известным философом и экспертом по искусственному интеллекту Элиезером Юдковским. Его участники обсуждали вопросы современного рационализма, выступая в поддержку максимально точной картины мира, рациональной оценки рисков будущего, выбора общих целей и средств к их достижению. В частности, они развивали концепцию «дружественного ИИ», использование которого должно нести благо всему человечеству.

Приход такого всемогущего существа можно назвать технологической сингулярностью с позитивным исходом. И здесь прозвучит еще одно, последнее предупреждение. История недаром отсылает к василиску, мифическому животному, при взгляде в глаза которого человек окаменевает. Само знание об этом мысленном эксперименте — взгляде в будущее человечества и искусственного интеллекта — может когда-нибудь обернуться для вас неисчислимыми страданиями.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как получить максимум пользы для здоровья от велосипеда: 10 самых мудрых (и простых) правил Как получить максимум пользы для здоровья от велосипеда: 10 самых мудрых (и простых) правил

Десять универсальных законов, помогающих всем освоить велосипед

ТехИнсайдер
Срочный развод: самые короткие звездные браки, которые тебя удивят Срочный развод: самые короткие звездные браки, которые тебя удивят

Кто из знаменитостей побежал подавать на развод, едва утихли свадебные колокола

VOICE
Алексей Олейников: Хочу расследовать «Смерть чиновника» Чехова Алексей Олейников: Хочу расследовать «Смерть чиновника» Чехова

Писатель Алексей Олейников — об историческом детективе и антропологии

СНОБ
«Девятая стадия из десяти возможных»: дядя Юра из «Спокойной ночи, малыши!» рассказал, как победил рак «Девятая стадия из десяти возможных»: дядя Юра из «Спокойной ночи, малыши!» рассказал, как победил рак

Юрий Григорьев смог победить онкологию на предпоследней стадии

VOICE
Ученые объяснили, как езда на велосипеде способствует снижению риска развития деменции Ученые объяснили, как езда на велосипеде способствует снижению риска развития деменции

Езда на велосипеде полезнее, чем вы думали

ТехИнсайдер
Трогали за лобок и обсуждали упругость груди: волгоградская журналистка пожаловалась на харассмент Трогали за лобок и обсуждали упругость груди: волгоградская журналистка пожаловалась на харассмент

Почему в нашем обществе все еще немало мизогинии, сексизма и виктиблейминга?

Maxim
Коллективная западня Коллективная западня

Почему мы верим серьезным людям с экрана

Weekend
7 книг для семейного чтения 7 книг для семейного чтения

Книги, которые помогут найти общие темы для разговора с ребенком

СНОБ
8 советов, которые помогут вам развить эмоциональную связь с партнером 8 советов, которые помогут вам развить эмоциональную связь с партнером

Как укрепить эмоциональную связь с партнером

Psychologies
Принцип экономии в живых системах: посмотрим на метаболиты Принцип экономии в живых системах: посмотрим на метаболиты

Живые организмы развились из сравнительно простых молекулярных структур

Наука и жизнь
«Транспорт в городах, удобных для жизни» «Транспорт в городах, удобных для жизни»

Как транспортная система влияет на город

N+1
В сердце Сицилии В сердце Сицилии

Канноли — лучший воскресный итальянский десерт

Вокруг света
Google в помощь: может ли корпорация составить конкуренцию OpenAI в гонке ИИ Google в помощь: может ли корпорация составить конкуренцию OpenAI в гонке ИИ

Google играет в догонялки в отрасли, которую сама помогла создать

Forbes
Фрида Кало и Диего Ривера: как любовь делает нас красивыми — искреннее письмо Фрида Кало и Диего Ривера: как любовь делает нас красивыми — искреннее письмо

Трогательное письмо Фриды Кало о Диего Ривере

Psychologies
Отрывок из сборника Евгении Некрасовой «Золотинка. Рассказы и поэмы о женщинах, медведях и магических существах» Отрывок из сборника Евгении Некрасовой «Золотинка. Рассказы и поэмы о женщинах, медведях и магических существах»

Отрывок из сборника рассказов о женщине и её повседневности в России

СНОБ
Не могу сказать «прости» Не могу сказать «прости»

Как правильно просить прощения?

Лиза
Что делать при землетрясении: ответы на 5 самых важных вопросов Что делать при землетрясении: ответы на 5 самых важных вопросов

Нужно ли стоять в дверном проеме или выбегать из здания при землетрясении?

Maxim
Полуостров вулканов Полуостров вулканов

Камчатка — самая вулканически активная зона планеты

Вокруг света
«Отряд отморозков» «Отряд отморозков»

Миссия «Алсос», или Кто помешал нацистам создать атомную бомбу

N+1
Ла‑ла-вуд Ла‑ла-вуд

Как «Вавилон» Дэмиена Шазелла фальсифицирует голливудский миф

Weekend
Как увеличить шрифт на телефоне Android или iPhone? Как увеличить шрифт на телефоне Android или iPhone?

Изменить размер текста на дисплее смартфона очень легко

CHIP
Что счастливые пары делают перед сном: 8 принципов — повторяйте каждый день Что счастливые пары делают перед сном: 8 принципов — повторяйте каждый день

Как сохранить эмоциональную близость с партнером?

Psychologies
«Печать ведет себя все хуже»: как в Российской империи и СССР цензурировали СМИ «Печать ведет себя все хуже»: как в Российской империи и СССР цензурировали СМИ

Рассказываем о становлении и развитии цензуры в прессе и публицистике

Forbes
«Империя света» Сэма Мендеса — главный кинопровал 2023 года. Как так вышло? «Империя света» Сэма Мендеса — главный кинопровал 2023 года. Как так вышло?

«Империя света» — ретро-мелодрама, ставшая не событием, а разочарованием

Правила жизни
Что делать, если в отношениях устраивает все, кроме секса: 4 шага к решению проблемы Что делать, если в отношениях устраивает все, кроме секса: 4 шага к решению проблемы

Как достичь гармонии в отношениях — как в спальне, так и за ее пределами?

Psychologies
Вячеслав Малафеев: «Бывает, что перебарщиваю, но вообще я не буйный!» Вячеслав Малафеев: «Бывает, что перебарщиваю, но вообще я не буйный!»

Легендарный вратарь Вячеслав Малафеев — об отдыхе, семье и работе

Maxim
5 самых популярных мифов о девственности и девственницах 5 самых популярных мифов о девственности и девственницах

Рассказываем о главных мифах и легендах вокруг девственной плевы

Maxim
В королевстве кривых зеркал: как воспитывают детей матери-нарциссы В королевстве кривых зеркал: как воспитывают детей матери-нарциссы

Что такое травма оценки и как работает нарциссическое расширение родителя

Psychologies
Стратегия поиска работы за границей: что писать, с кем говорить и к чему готовиться Стратегия поиска работы за границей: что писать, с кем говорить и к чему готовиться

Сколько времени занимает поиск работы за границей?

Forbes
Исследования показывают, что только половине ваших друзей вы реально нравитесь: это правда? Исследования показывают, что только половине ваших друзей вы реально нравитесь: это правда?

На самом деле вы нравитесь только половине ваших друзей. Неужели это так?

ТехИнсайдер
Открыть в приложении