Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

СНОБHi-Tech

Две главных причины бояться искусственного интеллекта

Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

Некоторые страхи по поводу искусственного интеллекта в целом обоснованны, и я разделяю два из них.

Первый — что можно целенаправленно создать враждебный искусственный интеллект и боевые системы на его основе. Например, миниатюрные летающие устройства, которые могут объединяться в рои и перемещаться на большие расстояния, коллективно выполняя какие-то опасные действия. Поэтому я считаю, что нужно договориться на межгосударственном уровне о запрете и масштабных исследованиях боевых систем на основе ИИ.

Второй страх связан с эволюцией искусственного интеллекта. Уже сейчас одни нейросети создают другие, Google уже провел первый подобный успешный эксперимент. При таком развитии могут появиться целые эволюционные ветви искусственного интеллекта. И даже если изначальная цель была вполне мирной и полезной для человека, то побочные эффекты могут оказаться совершенно непредсказуемыми. Представьте себе эффективную нейросеть, с вычислениями, распределенными по многим компьютерам, чья задача сортировать изображения собачек и кошек. И вдруг она обнаруживает, что человек выключил один из компьютеров кластера и это ухудшило показатели классификации — система теоретически может принять «эффективное» решение и, в конце концов, в погоне за улучшениями теоретически система может получить доступ к атомной электростанции или дамбе около города.

Представьте «полезную» бактерию, задача которой — поедать пластик на свалках. Но в результате ситуация может выйти из-под контроля и бактерии начнут поедать пластик, например, в деталях самолетов

Рано или поздно появятся подобные угрозы со стороны ИИ. Как с ними бороться? Человечество уже давно сталкивается с угрозами со стороны «умных» эволюционирующих систем — например, занимаясь селекцией сельскохозяйственных культур и приручением дикой природы. В рамках генной инженерии, к примеру, могут быть созданы канцерогенные культуры или особо живучие бактерии. Представьте «полезную» бактерию, изначальная задача которой — поедать

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как проходил суд над Иосифом Бродским. Отрывок из книги Фриды Вигдоровой Как проходил суд над Иосифом Бродским. Отрывок из книги Фриды Вигдоровой

Глава из книги правозащитницы Фриды Вигдоровой «Дневник матери»

СНОБ
Гормон мне друг? Гормон мне друг?

Как гормоны влияют на наше настроение, вес и качество кожи​​​​​​​

Cosmopolitan
Роботы Figure научились сообща сортировать предметы Роботы Figure научились сообща сортировать предметы

Компания Figure разработала универсальный алгоритм управления роботами

N+1
Вежливая сеть: как научить искусственный интеллект относиться к людям непредвзято Вежливая сеть: как научить искусственный интеллект относиться к людям непредвзято

Для нейросети нет разницы, какого пола и расы человека необходимо распознавать

Forbes
8 доказанных наукой привычек, которые действительно повышают интеллект 8 доказанных наукой привычек, которые действительно повышают интеллект

Какие ритуалы стоит добавить в свою рутину, чтобы стать умнее

Maxim
Кризис среднего возраста: будут ли дорожать автомобили с пробегом Кризис среднего возраста: будут ли дорожать автомобили с пробегом

Исследование вторичного авторынка по результатам первого квартала текущего года

Forbes
Закрытое небо: зачем Госдума лишает авиационную отрасль сотен миллионов евро Закрытое небо: зачем Госдума лишает авиационную отрасль сотен миллионов евро

Один из пунктов контрсанкций, которые хочет ввести Госдума

Forbes
Плюс одна комната! Плюс одна комната!

Как превратить обычную лоджию в полноценное жилое пространство

Лиза
Он не устроит! Как правильно флиртовать с разными знаками зодиака Он не устроит! Как правильно флиртовать с разными знаками зодиака

Астролог продолжает помогать нам готовиться к свиданиям с мужчинами

Cosmopolitan
Авто на удачу Авто на удачу

Арендуем машину на отдыхе как профи

Cosmopolitan
Особый взгляд Вадима Верника: Такая, какая есть Особый взгляд Вадима Верника: Такая, какая есть

Ирина Горбачёва стала звездой благодаря Instagram

OK!
Стивен Содерберг: “Кино — это мой спорт” Стивен Содерберг: “Кино — это мой спорт”

В прокате “Не в себе” — триллер Стивена Содерберга

Esquire
Продажный соискатель: чем образ хорошего работодателя бывает полезен бизнесу Продажный соискатель: чем образ хорошего работодателя бывает полезен бизнесу

Какие преимущества дает правильный имидж компании-работодателя на рынке труда?

Forbes
Вызов Илону Маску. Супруги Филевы стали владельцами «Морского старта» Вызов Илону Маску. Супруги Филевы стали владельцами «Морского старта»

К ноябрю 2018 года планируется доставить и собрать ракету «Зенит-3SL»

Forbes
Met Gala 2018: все, что нужно знать о главной вечеринке года Met Gala 2018: все, что нужно знать о главной вечеринке года

Met Gala 2018: о тематике, гостях и ведущих вечера, стоимости билетов и другом

Vogue
Высокая энергия Высокая энергия

Мягкий способ работы с шестью бандхами

Yoga Journal
Первому тренеру приготовиться Первому тренеру приготовиться

19 апреля на экраны выходит «Тренер»

СНОБ
Догнать спрос: выдержит ли Россия конкуренцию на рынке СПГ Догнать спрос: выдержит ли Россия конкуренцию на рынке СПГ

Прямо сейчас Россия может застолбить за собой несколько важных направлений

Forbes
Идеальный перекус Идеальный перекус

Любимые орешки «с изюминкой»

Лиза
11 вдохновляющих цитат для сильных женщин 11 вдохновляющих цитат для сильных женщин

Меткие жизненные высказывания

Psychologies
7 способов провести досуг с пользой для мозга 7 способов провести досуг с пользой для мозга

Вы тренируете свой мозг во время этих занятий

Популярная механика
Дом смерти в Лос-Фелиз: загадочная рождественская трагедия Дом смерти в Лос-Фелиз: загадочная рождественская трагедия

Лос-Фелиз — идиллический район Лос-Анджелеса

Cosmopolitan
Вечный Октоберфест: как получить гражданство Германии за инвестиции Вечный Октоберфест: как получить гражданство Германии за инвестиции

О чем важно помнить, если вы решились на переезд в Германию

Forbes
Звезды, которые Звезды, которые

Когда в рекламе говорят, что благодаря этим таблеткам похудела любимая звезда!

Cosmopolitan
Космический поиск: NASA запустила в космос охотника за экзопланетами Космический поиск: NASA запустила в космос охотника за экзопланетами

Новый телескоп позволит обнаружить больше планет за пределами Солнечной системы

Forbes
Кто изобрел спички? Кто изобрел спички?

Нам кажется, что спички были всегда, но как они появились?

Популярная механика
10 шведских автомобилей, о которых вы ничего не знали 10 шведских автомобилей, о которых вы ничего не знали

Шведский автопром кроме «Вольво», «Сааб» и «Скания»

Популярная механика
Предсказуемая опасность. Почему МЧС не может закрыть торговые центры с нарушениями Предсказуемая опасность. Почему МЧС не может закрыть торговые центры с нарушениями

Как арендаторы могут защитить себя в случае нештатной ситуации?

Forbes
Кризис среднего возраста: когда ожидать и как пережить? Кризис среднего возраста: когда ожидать и как пережить?

Как распознать кризис в себе или в партнере и что делать

Psychologies
Владимир Овчаренко Владимир Овчаренко

Основатель аукциона Vladey Владимир Овчаренко — об ужине с Джеффом Кунсом

GQ
Открыть в приложении