Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

СНОБHi-Tech

Две главных причины бояться искусственного интеллекта

Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

Некоторые страхи по поводу искусственного интеллекта в целом обоснованны, и я разделяю два из них.

Первый — что можно целенаправленно создать враждебный искусственный интеллект и боевые системы на его основе. Например, миниатюрные летающие устройства, которые могут объединяться в рои и перемещаться на большие расстояния, коллективно выполняя какие-то опасные действия. Поэтому я считаю, что нужно договориться на межгосударственном уровне о запрете и масштабных исследованиях боевых систем на основе ИИ.

Второй страх связан с эволюцией искусственного интеллекта. Уже сейчас одни нейросети создают другие, Google уже провел первый подобный успешный эксперимент. При таком развитии могут появиться целые эволюционные ветви искусственного интеллекта. И даже если изначальная цель была вполне мирной и полезной для человека, то побочные эффекты могут оказаться совершенно непредсказуемыми. Представьте себе эффективную нейросеть, с вычислениями, распределенными по многим компьютерам, чья задача сортировать изображения собачек и кошек. И вдруг она обнаруживает, что человек выключил один из компьютеров кластера и это ухудшило показатели классификации — система теоретически может принять «эффективное» решение и, в конце концов, в погоне за улучшениями теоретически система может получить доступ к атомной электростанции или дамбе около города.

Представьте «полезную» бактерию, задача которой — поедать пластик на свалках. Но в результате ситуация может выйти из-под контроля и бактерии начнут поедать пластик, например, в деталях самолетов

Рано или поздно появятся подобные угрозы со стороны ИИ. Как с ними бороться? Человечество уже давно сталкивается с угрозами со стороны «умных» эволюционирующих систем — например, занимаясь селекцией сельскохозяйственных культур и приручением дикой природы. В рамках генной инженерии, к примеру, могут быть созданы канцерогенные культуры или особо живучие бактерии. Представьте «полезную» бактерию, изначальная задача которой — поедать

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Незамеченная революция новатора-мученика: что нужно знать про Варлама Шаламова Незамеченная революция новатора-мученика: что нужно знать про Варлама Шаламова

Какую революцию Шаламов совершил в литературе и чем он отличается от Фуко

СНОБ
Россия после Кемерово: что с нами не так Россия после Кемерово: что с нами не так

Почему люди спасали друг друга сами и где были пожарные

Русский репортер
«А как же шарики?!» Человечество исчерпает запасы гелия быстрее, чем нефти или газа – но есть выход «А как же шарики?!» Человечество исчерпает запасы гелия быстрее, чем нефти или газа – но есть выход

Поставщики начали отказывать в поставках гелия даже научным лабораториям

ТехИнсайдер
Анна Старобинец — о книгах, которые переворачивают душу и разум Анна Старобинец — о книгах, которые переворачивают душу и разум

Почему в российских реалиях практически невозможно написать хороший детектив

Esquire
Как быстро возбудить девушку: 12 способов (гид, который стоит держать под рукой) Как быстро возбудить девушку: 12 способов (гид, который стоит держать под рукой)

Не знаете, как быстро возбудить девушку до предела? Вы по адресу!

Playboy
Милош Бикович примеряет вещи Henderson и уходит из актеров в продюсеры Милош Бикович примеряет вещи Henderson и уходит из актеров в продюсеры

Милош экспериментирует со стилем в вещах из новой коллекции Henderson

GQ
Удачи на даче! Удачи на даче!

Как подготовиться к очередному дачному сезону?

Добрые советы
Душа дома Душа дома

Деревянный дом в Новоглаголеве для бизнес–леди из Москвы

SALON-Interior
В стиле рок В стиле рок

В основу концепции лёг образ старинного каменного амбара

SALON-Interior
Вас там не хватало Вас там не хватало

В Оксфорде скандал — студентки жалуются на однокурсников

Tatler
Канье Уэст пишет книгу о философии прямо в твиттере Канье Уэст пишет книгу о философии прямо в твиттере

Это не финансовая возможность, а врожденная потребность в выражении

Esquire
Ракетопланы для науки и сражений: советский орбитальный истребитель Ракетопланы для науки и сражений: советский орбитальный истребитель

Наши конструкторы создавали проекты удивительных летательных аппаратов

Популярная механика
Как заработать 30 000 долларов за неделю! Берут всех, но придется реально вкалывать! Как заработать 30 000 долларов за неделю! Берут всех, но придется реально вкалывать!

Знаешь, какая работа считается самой опасной в мире? Ловля королевского краба

Maxim
Какие навыки работы с компьютером должен освоить ребенок? Какие навыки работы с компьютером должен освоить ребенок?

Какими навыками работы с офисными программами следует владеть подростку

Psychologies
Кто тут круче и быстрее? Кто тут круче и быстрее?

Японский седан и корейский лифтбек борются за наши кошельки

АвтоМир
«А я останусь»: 5 поводов не покидать отель на отдыхе «А я останусь»: 5 поводов не покидать отель на отдыхе

Веские аргументы, чтобы отказаться от очередной экскурсии

Cosmopolitan
Кандидат на вылет. Как инвестору подготовиться к изменению индекса Dow Jones Кандидат на вылет. Как инвестору подготовиться к изменению индекса Dow Jones

Компания General Electric рискует вылететь из индекса Dow Jones

Forbes
Советская стратегическая сверхзвуковая ракета Советская стратегическая сверхзвуковая ракета

Стало ясно, насколько ракета «Метеорит» опередила свое время.

Популярная механика
Рожденная спасать: поможем Марине выздороветь Рожденная спасать: поможем Марине выздороветь

Марина Найдышева была совершенно уверена, что у ее дочери Софии талант

Cosmopolitan
Будет вкусно: «обеды-конструкторы» на работу от Шефмаркет Будет вкусно: «обеды-конструкторы» на работу от Шефмаркет

Кто сказал, что еда в контейнерах на работу – это обязательно скучно и невкусно?

Cosmopolitan
Весенний уикенд в Стамбуле Весенний уикенд в Стамбуле

Кто не видел Стамбул, тот не видел Азию

Vogue
Цена надежности. Жилье подорожает после реформы строительного рынка Цена надежности. Жилье подорожает после реформы строительного рынка

На смену долевому участию придет механизм проектного финансирования

Forbes
Они узорят наш район! Они узорят наш район!

Предметы, оказавшись рядом, создают красоту и узоры

Maxim
На Золотом кольце… На Золотом кольце…

Вокруг небольшого городка Иваново есть что посмотреть

Лиза
Библия глазами женщины. Фильм недели: «Мария Магдалина» Библия глазами женщины. Фильм недели: «Мария Магдалина»

Гарт Дэвис попытался заново осмыслить Евангелие

Forbes
Миллиарды из трущоб: как самый богатый человек Индии зарабатывает на мобильной связи Миллиарды из трущоб: как самый богатый человек Индии зарабатывает на мобильной связи

Можно ли сделать связь доступной для беднейших слоев населения южной Азии?

Forbes
Coshe Furs — бренд с особой формулой Coshe Furs — бренд с особой формулой

Уникальный и одновременно универсальный бренд Coshe Furs

Cosmopolitan
Исландия: медитация на Луне Исландия: медитация на Луне

Фантастические пейзажи Исландии пленяют с первого взгляда

Psychologies
Мы говорим им «До свидания!» Мы говорим им «До свидания!»

В этом месяце в Нью-Йорке пройдет аукцион века

Tatler
Мир в нокауте. Федор Емельяненко может стать чемпионом в 42 года Мир в нокауте. Федор Емельяненко может стать чемпионом в 42 года

Почему бой Емельяненко вызвал интерес даже у ФБР

Forbes
Открыть в приложении