Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

СНОБHi-Tech

Две главных причины бояться искусственного интеллекта

Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

Некоторые страхи по поводу искусственного интеллекта в целом обоснованны, и я разделяю два из них.

Первый — что можно целенаправленно создать враждебный искусственный интеллект и боевые системы на его основе. Например, миниатюрные летающие устройства, которые могут объединяться в рои и перемещаться на большие расстояния, коллективно выполняя какие-то опасные действия. Поэтому я считаю, что нужно договориться на межгосударственном уровне о запрете и масштабных исследованиях боевых систем на основе ИИ.

Второй страх связан с эволюцией искусственного интеллекта. Уже сейчас одни нейросети создают другие, Google уже провел первый подобный успешный эксперимент. При таком развитии могут появиться целые эволюционные ветви искусственного интеллекта. И даже если изначальная цель была вполне мирной и полезной для человека, то побочные эффекты могут оказаться совершенно непредсказуемыми. Представьте себе эффективную нейросеть, с вычислениями, распределенными по многим компьютерам, чья задача сортировать изображения собачек и кошек. И вдруг она обнаруживает, что человек выключил один из компьютеров кластера и это ухудшило показатели классификации — система теоретически может принять «эффективное» решение и, в конце концов, в погоне за улучшениями теоретически система может получить доступ к атомной электростанции или дамбе около города.

Представьте «полезную» бактерию, задача которой — поедать пластик на свалках. Но в результате ситуация может выйти из-под контроля и бактерии начнут поедать пластик, например, в деталях самолетов

Рано или поздно появятся подобные угрозы со стороны ИИ. Как с ними бороться? Человечество уже давно сталкивается с угрозами со стороны «умных» эволюционирующих систем — например, занимаясь селекцией сельскохозяйственных культур и приручением дикой природы. В рамках генной инженерии, к примеру, могут быть созданы канцерогенные культуры или особо живучие бактерии. Представьте «полезную» бактерию, изначальная задача которой — поедать

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Поэт Алексей Никонов об альбоме «Последних танков в Париже» — «2084» Поэт Алексей Никонов об альбоме «Последних танков в Париже» — «2084»

Леха Никонов повествует историю создания альбома «2084» — от начала и до конца

СНОБ
Ум и отвага. Как войти в список Forbes, бросив вызов бывшему работодателю Ум и отвага. Как войти в список Forbes, бросив вызов бывшему работодателю

Бывшая сотрудница Cisco вошла в число 72 женщин-миллиардеров

Forbes
Цифровой сценарист: как ИИ создает иллюзию свободы выбора Цифровой сценарист: как ИИ создает иллюзию свободы выбора

Как научиться распознавать технологические манипуляции

Forbes
Лучшие шутки дня и мессенджер «Энигма»! Лучшие шутки дня и мессенджер «Энигма»!

Армянский дайджест авторского юмора с авторской орфографией

Maxim
Как стать лучшим мужчиной в постели девушки: секс-эксперт Трейси Кокс поделилась секретами Как стать лучшим мужчиной в постели девушки: секс-эксперт Трейси Кокс поделилась секретами

Что служит причиной неудовлетворенности женщины и как это исправить

Maxim
Джо Демпси из “Игры престолов”: “Гребля — это совсем не мое” Джо Демпси из “Игры престолов”: “Гребля — это совсем не мое”

У Джо Демпси новый большой проект: шпионский триллер

Esquire
«Мои мозги ходят в тренажерный зал» «Мои мозги ходят в тренажерный зал»

Интервью c Семёном Слепаковым

OK!
Деньги на старость. Депутаты предложили увеличить пенсии в среднем на 6200 рублей Деньги на старость. Депутаты предложили увеличить пенсии в среднем на 6200 рублей

Правительство России не поддержало законопроект, предусматривающий рост пенсий

Forbes
Стоим на пороге. Медведев анонсировал повышение пенсионного возраста Стоим на пороге. Медведев анонсировал повышение пенсионного возраста

Премьер-министр напомнил, что пенсионный возраст был установлен в СССР в 1940-е

Forbes
Я готов целовать песок Я готов целовать песок

Наталья Погодина вместе с семьей поселилась на песчаном пляже в Анапе

AD
Щупальца прогресса Щупальца прогресса

Экономическое влияние Apple, Google, Facebook и Amazon

Esquire
Миллиарды из трущоб: как самый богатый человек Индии зарабатывает на мобильной связи Миллиарды из трущоб: как самый богатый человек Индии зарабатывает на мобильной связи

Можно ли сделать связь доступной для беднейших слоев населения южной Азии?

Forbes
До и после санкций: что происходит с рынком слияний и поглощений До и после санкций: что происходит с рынком слияний и поглощений

Новые санкции скорректируют планы крупных компаний

Forbes
«Ломай его полностью!»: как устроены рестлинг бои в России «Ломай его полностью!»: как устроены рестлинг бои в России

Почти каждый месяц нижегородский рестлинг клуб Gorky City Wrestling проводит бои

Esquire
Взрослая площадка. Как стать своей в мужской игре Взрослая площадка. Как стать своей в мужской игре

Почему мужчины склонны недооценивать женщин-предпринимательниц

Forbes
Все по полочкам Все по полочкам

Мебельные стенки немного видоизменились

Лиза
Губительная «цифра»: чем автоматизация вредит бизнесу Губительная «цифра»: чем автоматизация вредит бизнесу

Практика фиксировать результат на бумаге повышает эффективность сотрудников

Forbes
Основатели Lamoda: «Мы хотим стать номером один на рынке моды в СНГ» Основатели Lamoda: «Мы хотим стать номером один на рынке моды в СНГ»

Четверо молодых немцев пришли осваивать рынок онлайн-торговли в России

Esquire
Я зарабатываю на ЗОЖ: 5 историй успеха Я зарабатываю на ЗОЖ: 5 историй успеха

Как превратить свое увлечение ЗОЖ в успешный бизнес

Cosmopolitan
Голливудский финал Голливудский финал

Ради чего главный человек в кинематографе бросил миллиардное состояние

СНОБ
9 самых жуликоватых спортсменов в истории 9 самых жуликоватых спортсменов в истории

За спортивными победами и золотыми медалями стоят хитрые трюки

Maxim
Как компания Volvo проводит краш-тесты Как компания Volvo проводит краш-тесты

Кузов – это сложнейший и, пожалуй, самый недооцененный механизм автомобиля

Популярная механика
Хабиб против Конора. Как разгорелся самый громкий скандал в истории UFC Хабиб против Конора. Как разгорелся самый громкий скандал в истории UFC

В жизни бойца UFC Хабиба Нурмагомедова выдалась невероятно насыщенная неделя

Forbes
Брат небесный, брат земной Брат небесный, брат земной

NASA исследует близнецов: астронавта и его брата, оставшегося на Земле

Популярная механика
«Начало прекрасной дружбы». Белый дом сообщил Кремлю о передышке в санкциях «Начало прекрасной дружбы». Белый дом сообщил Кремлю о передышке в санкциях

Владимир Путин дал чиновникам указание снизить накал антиамериканской риторики

Forbes
Наше кольцо Наше кольцо

Михаил Шац вспоминает, как при встрече с президентом выкрикнул одно слово

GQ
Аппарат Gaia может быть использован для поиска внеземных цивилизаций Аппарат Gaia может быть использован для поиска внеземных цивилизаций

Недавно астрономы составили самую подробную карту Млечного Пути

Популярная механика
Герой Сирии: заработает ли Тимченко на добыче фосфатов под Пальмирой Герой Сирии: заработает ли Тимченко на добыче фосфатов под Пальмирой

Геннадий Тимченко займется добычей в Сирии фосфатов

Forbes
Озарение миллиардера: Илон Маск поверил в людей и начал борьбу с «пьяными ленивцами» Озарение миллиардера: Илон Маск поверил в людей и начал борьбу с «пьяными ленивцами»

Илон Маск заявил, что разочарован в автоматизации производства

Forbes
Бедное искусство: работы итальянских художников выставили на торги в Милане Бедное искусство: работы итальянских художников выставили на торги в Милане

Аукцион Sotheby’s пройдет 18 и 19 апреля в дни проведения Milan Design Week

Forbes
Открыть в приложении