Даже система, созданная для исполнения мечты, может превратить праздник в кошмар

Популярная механикаHi-Tech

Новогодний террор: что будет, если Деда Мороза заменит искусственный интеллект

Разработка систем ИИ идет полным ходом, и, хоть машины становятся умнее день ото дня, это не всегда хорошие новости. Рано или поздно даже система, созданная для исполнения мечты, может превратить праздник в настоящий кошмар.

Василий Макаров

Что произойдет, если вместо доброго духа Рождества и Нового Года праздничными подарками однажды займется ИИ? Что ж, для человечества этот день может стать последним...

По мнению некоторых экспертов, в ближайшие несколько десятилетий мы можем увидеть, как шаг за шагом развивается самый настоящий искусственный интеллект. Так называемый «общий искусственный интеллект» или ОИИ (англ. AGI) в итоге будет обладать интеллектуальными возможностями, намного превосходящими человеческие.

AGI может изменить человеческую жизнь к лучшему, но неконтролируемый AGI также может привести к катастрофам, вплоть до гибели самого человечества. Это может произойти без какого-либо злого умысла: просто стремясь достичь изначально заложенных в него целей, ОИИ могут создать угрозы здоровью и благополучию человека или даже решить нас уничтожить из самых благих побуждений.

Даже система AGI, разработанная для благотворительных целей, может в конечном итоге нанести большой вред.

В рамках программы исследований, изучающих, как мы можем управлять рисками, связанными с AGI, ученые попытались определить потенциальные риски замены Санта-Клауса системой AGI – рабочее название «SantaNet» - цель которой состоит в доставке подарков детям во всем мире всего за одну ночь.

Нет сомнений в том, что SantaNet может принести радость миру и достичь своей цели, создав армию эльфов, помощников ИИ и дронов. Но какой ценой? Исследователи определили ряд моделей поведения, которые, хотя и имели бы благие намерения, могли оказать неблагоприятное воздействие на здоровье и благополучие человека.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Женщина 20 лет не убирала в доме, но он оставался чистым. Почему? Женщина 20 лет не убирала в доме, но он оставался чистым. Почему?

Думаете, дом, который не убирался больше 20 лет был похож на свалку?

Популярная механика
Рома Зверь — про непротестный рок, надоевший рэп и зло из телевизора Рома Зверь — про непротестный рок, надоевший рэп и зло из телевизора

Вечно молодой группе «Звери» исполнилось 20 лет: интервью с ее лидером

РБК
Объявлены в розыск: фантастические твари, которых ищут биологи Объявлены в розыск: фантастические твари, которых ищут биологи

Уникальные существа, которые мастерски скрываются от биологов

СНОБ
Как правильно обращаться с деньгами, чтобы их стало больше: 8 лайфхаков Как правильно обращаться с деньгами, чтобы их стало больше: 8 лайфхаков

Денег никогда не бывает много, а чаще всего их просто не хватает

Cosmopolitan
Винтокрыл против конвертоплана Винтокрыл против конвертоплана

«Вертолет» не самый подходящий термин для описания этих воздушных монстров

Популярная механика
10 вопросов Уиллему Дефо: о духе авантюризма, кинокритиках и жене-итальянке 10 вопросов Уиллему Дефо: о духе авантюризма, кинокритиках и жене-итальянке

Уиллем Дефо: «В каждом браке есть свои препятствия. Например, дети»

Playboy
2003 год 2003 год

Арест Михаила Ходорковского, появление ГНК, триумф t.A.T.u. и Пол Маккартни

Esquire
Наращивание или ламинирование: какая процедура подойдет твоим ресницам Наращивание или ламинирование: какая процедура подойдет твоим ресницам

Рассказываем о последних тенденциях в «ресничном деле»

Cosmopolitan
Как правильно проезжать лежачие полицейские Как правильно проезжать лежачие полицейские

Проезжай лежачих полицейских как профи

Maxim
Дарья Бобылева: Способы не попасть в ад. Отрывок из романа «Неучтенная планета» Дарья Бобылева: Способы не попасть в ад. Отрывок из романа «Неучтенная планета»

Отрывок из нового психотерапевтического романа Дарьи Бобылевой

СНОБ
«Тот, кто полюбит все твои трещины» — сборник рассказов сценариста «Коня БоДжека» Рафаэля Боб-Ваксберга. Публикуем одну из историй «Тот, кто полюбит все твои трещины» — сборник рассказов сценариста «Коня БоДжека» Рафаэля Боб-Ваксберга. Публикуем одну из историй

Отрывок из книги Рафаэля Боб-Ваксберга «Тот, кто полюбит все твои трещины»

Esquire
Честность и преданность, но без перфекционизма: как стать инфлюенсером для команды Честность и преданность, но без перфекционизма: как стать инфлюенсером для команды

Как помочь команде добиться большего, не прибегая к принуждению и манипуляциям

Forbes
Древние боги смерти и разрушения, которые были куда кровожаднее дьявола Древние боги смерти и разрушения, которые были куда кровожаднее дьявола

Должен же кто-то делать эту работу!

Maxim
Сара Спенсер: кем была женщина, отвергнувшая принца Чарльза? Сара Спенсер: кем была женщина, отвергнувшая принца Чарльза?

Почему Сара Спенсер отказала принцу Чарльзу?

Cosmopolitan
Парное интервью: создатели нового концепт-стора Peak Сергей Танин и Константин Михайлов отвечают на 10 вопросов о будущем моды и аутдор-технологиях Парное интервью: создатели нового концепт-стора Peak Сергей Танин и Константин Михайлов отвечают на 10 вопросов о будущем моды и аутдор-технологиях

Создатели концепт-стора Peak о потребности в природе и новой реальности моды

Esquire
Хороший, плохой, злой Хороший, плохой, злой

Евгений Чичваркин вспоминает Бориса Березовского

Tatler
Как стать принцессой Как стать принцессой

Эмма Коррин – о роли принцессы Дианы в четвертом сезоне сериала «Корона»

Grazia
Анатолий Вассерман: «То, что я умнее многих, стало понятно где-то между тремя и четырьмя годами» Анатолий Вассерман: «То, что я умнее многих, стало понятно где-то между тремя и четырьмя годами»

Интервью с Анатолием Вассерманом

Maxim
Характер нордический Характер нордический

Интервью с актером Кириллом Зайцевым о стиле, часах и только нужных вещах

OK!
Разбор Fakecheck: влияет ли «Плюс» на цены в такси «Яндекса» и откуда берётся кэшбек Разбор Fakecheck: влияет ли «Плюс» на цены в такси «Яндекса» и откуда берётся кэшбек

Как работает Яндекс.Плюс относительно такси, разбираются журналисты

VC.RU
«Чем больше связей между двумя странами, тем легче осуществлять бизнес» «Чем больше связей между двумя странами, тем легче осуществлять бизнес»

Специфика работы в России подразделения крупной международной финансовой группы

РБК
Почувствуй разницу: звезды на обложках и в реальной жизни Почувствуй разницу: звезды на обложках и в реальной жизни

Сравниваем, как выглядят звезды на обложках журналов, а как – в жизни

Cosmopolitan
18 идей для гастрономического путешествия по России 18 идей для гастрономического путешествия по России

Самые аппетитные пункты в меню страны – и места, где их нужно пробовать

GQ
6 исторических личностей, доказывающих, что даже ты можешь стать великим человеком 6 исторических личностей, доказывающих, что даже ты можешь стать великим человеком

Всемирная история насчитывает тысячи гениев, которые смогли изменить мир

Maxim
Правила жизни Тайгера Вудса Правила жизни Тайгера Вудса

Правила жизни великого гольфиста Тайгера Вудса

Esquire
Дина Юдина Дина Юдина

Осенью 92-летняя экс-адвокат и блокадница стала победительницей шоу «Голос 60+»

Собака.ru
Битва сериалов с Дмитрием Барченковым Битва сериалов с Дмитрием Барченковым

Обозреватель сериалов «Сноба» о новых сериалах

СНОБ
Микропластик обнаружили в воздухе над Атлантическим океаном Микропластик обнаружили в воздухе над Атлантическим океаном

Пластиковые частицы переносятся ветром с поверхности воды

N+1
Животноводство в бедных странах перестали считать угрозой для климата Животноводство в бедных странах перестали считать угрозой для климата

Но оно остается ей во многих развитых странах

N+1
Мужикам тут не место: 10 странных локаций, куда ты можешь попасть с ее помощью (ад не считается) Мужикам тут не место: 10 странных локаций, куда ты можешь попасть с ее помощью (ад не считается)

Куда дамы любят выгуливать своих новых кавалеров?

Maxim
Открыть в приложении