Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

СНОБHi-Tech

Две главных причины бояться искусственного интеллекта

Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

Некоторые страхи по поводу искусственного интеллекта в целом обоснованны, и я разделяю два из них.

Первый — что можно целенаправленно создать враждебный искусственный интеллект и боевые системы на его основе. Например, миниатюрные летающие устройства, которые могут объединяться в рои и перемещаться на большие расстояния, коллективно выполняя какие-то опасные действия. Поэтому я считаю, что нужно договориться на межгосударственном уровне о запрете и масштабных исследованиях боевых систем на основе ИИ.

Второй страх связан с эволюцией искусственного интеллекта. Уже сейчас одни нейросети создают другие, Google уже провел первый подобный успешный эксперимент. При таком развитии могут появиться целые эволюционные ветви искусственного интеллекта. И даже если изначальная цель была вполне мирной и полезной для человека, то побочные эффекты могут оказаться совершенно непредсказуемыми. Представьте себе эффективную нейросеть, с вычислениями, распределенными по многим компьютерам, чья задача сортировать изображения собачек и кошек. И вдруг она обнаруживает, что человек выключил один из компьютеров кластера и это ухудшило показатели классификации — система теоретически может принять «эффективное» решение и, в конце концов, в погоне за улучшениями теоретически система может получить доступ к атомной электростанции или дамбе около города.

Представьте «полезную» бактерию, задача которой — поедать пластик на свалках. Но в результате ситуация может выйти из-под контроля и бактерии начнут поедать пластик, например, в деталях самолетов

Рано или поздно появятся подобные угрозы со стороны ИИ. Как с ними бороться? Человечество уже давно сталкивается с угрозами со стороны «умных» эволюционирующих систем — например, занимаясь селекцией сельскохозяйственных культур и приручением дикой природы. В рамках генной инженерии, к примеру, могут быть созданы канцерогенные культуры или особо живучие бактерии. Представьте «полезную» бактерию, изначальная задача которой — поедать

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

По местам Дягилева в Петербурге. Отрывок из книги По местам Дягилева в Петербурге. Отрывок из книги

Какие места в Петербурге определили творчество Сергея Дягилева

СНОБ
Subaru Impreza Subaru Impreza

Impreza на отечественном рынке окончательно сдулась и покинула прилавки

АвтоМир
От нефтеразведки до торговли: как российские компании применяют нейросети От нефтеразведки до торговли: как российские компании применяют нейросети

В каких сферах применяют ИИ и каких результатов удалось добиться?

Inc.
Продажный соискатель: чем образ хорошего работодателя бывает полезен бизнесу Продажный соискатель: чем образ хорошего работодателя бывает полезен бизнесу

Какие преимущества дает правильный имидж компании-работодателя на рынке труда?

Forbes
Потрясно: что такое турбулентность и почему ее не надо бояться Потрясно: что такое турбулентность и почему ее не надо бояться

Рассказываем, что такое турбулентность и почему ее совершенно не стоит бояться

ТехИнсайдер
Разрыв шаблона Разрыв шаблона

Рай­а­н Рей­нольд­с — дерзкий супергерой и примерный отец

Glamour
Лучшие шутки дня и сиська пива! Лучшие шутки дня и сиська пива!

Обесцвеченный дайджест авторского юмора с авторской орфографией

Maxim
Некуда бежать. Смогут ли вкладчики найти замену депозитам Некуда бежать. Смогут ли вкладчики найти замену депозитам

Ставки по депозитам опустились до исторического минимума — 6,9% годовых

Forbes
В стиле рок В стиле рок

В основу концепции лёг образ старинного каменного амбара

SALON-Interior
Устроили драмтеатр: фонд Леонида Михельсона показывает в Москве невиданное искусство Устроили драмтеатр: фонд Леонида Михельсона показывает в Москве невиданное искусство

В ММоМА открывается проект фонда V-A-C «Генеральная репетиция»

Forbes
Три мифа об изменах Три мифа об изменах

Измены приносят боль, унижение, разочарование и потерю доверия

Psychologies
Криминальные хроники: как Лондон борется с незаконным богатством россиян Криминальные хроники: как Лондон борется с незаконным богатством россиян

Как новый закон повлияет на жизнь и имущество русских в Лондоне?

Forbes
Как изменилась личная жизнь резидентов Comedy Club за 13 лет шоу Как изменилась личная жизнь резидентов Comedy Club за 13 лет шоу

Что изменилось в личной жизни артистов за годы существования Comedy Club?

Cosmopolitan
Дмитрий Орешкин: Не так плохи Тулеевы, как то, что будет после них Дмитрий Орешкин: Не так плохи Тулеевы, как то, что будет после них

Аман Гумирович Тулеев — политик очень жесткий, авторитарный

СНОБ
Милош Бикович: Милош Бикович:

Милош Бикович рассказал, как физика влияет на его работу

Esquire
Вдох-выдох Вдох-выдох

Минимум 235 миллионам людей в мире поставлен диагноз «бронхиальная астма»

Добрые советы
Давайте полегче Давайте полегче

Да­ко­та Фэн­нинг за­ду­мы­ва­ет­ся о ма­те­рин­стве

Vogue
Молодая кровь: зачем российский бренд сшил одежду с логотипами KFC Молодая кровь: зачем российский бренд сшил одежду с логотипами KFC

Фастфуд KFC выпустил лимитированную коллекцию одежды

Forbes
10 самых невероятных школьных учителей 10 самых невероятных школьных учителей

Если бы у вас были такие учителя, тогда мы вы и прогуливали меньше

Cosmopolitan
10 вопросов аллергологу 10 вопросов аллергологу

Распространенные вопросы про аллергии мы задали эксперту

Домашний Очаг
Скидка на страну. Сколько стоит человеческая жизнь в России Скидка на страну. Сколько стоит человеческая жизнь в России

Жизнь россиянина стоит непростительно дешево

Forbes
Все чудеса Светы Все чудеса Светы

Звезда отечественных хит-парадов Светлана Лобода раскрывает свои секреты

Cosmopolitan
Металлурги наступают. Лидеры роста состояния в списке Forbes Металлурги наступают. Лидеры роста состояния в списке Forbes

Кто из самых богатых бизнесменов в России стал за минувший 2017 год еще богаче

Forbes
Энергетическая гигиена: как поддерживать баланс сил Энергетическая гигиена: как поддерживать баланс сил

Где черпать силы в энергозатратные будни?

Psychologies
Лучшие шутки о предложении Петра Толстого россиянам лечиться корой дуба! Лучшие шутки о предложении Петра Толстого россиянам лечиться корой дуба!

Шизофазия чиновников и пропагандистов перешла в терминальную стадию!

Maxim
Чистые помыслы: три правила информационной гигиены Чистые помыслы: три правила информационной гигиены

Что мешает продуктивно работать и совершенствовать себя

Forbes
6 признаков мудрой женщины 6 признаков мудрой женщины

Что отличает мудрую женщину?

Psychologies
9 самых жуликоватых спортсменов в истории 9 самых жуликоватых спортсменов в истории

За спортивными победами и золотыми медалями стоят хитрые трюки

Maxim
Диск-жокей, сделай музыку громче: один день с Севой Новгородцевым Диск-жокей, сделай музыку громче: один день с Севой Новгородцевым

Сева Новгородцев о желании вернуться в молодость

СНОБ
Эмили Блант: “Мужчины хотят снимать фильмы о сильных женщинах” Эмили Блант: “Мужчины хотят снимать фильмы о сильных женщинах”

Эмили Блант — о новом проекте и о том, как совмещать личную жизнь и работу

Esquire
Открыть в приложении