Даже система, созданная для исполнения мечты, может превратить праздник в кошмар

Популярная механикаHi-Tech

Новогодний террор: что будет, если Деда Мороза заменит искусственный интеллект

Разработка систем ИИ идет полным ходом, и, хоть машины становятся умнее день ото дня, это не всегда хорошие новости. Рано или поздно даже система, созданная для исполнения мечты, может превратить праздник в настоящий кошмар.

Василий Макаров

Что произойдет, если вместо доброго духа Рождества и Нового Года праздничными подарками однажды займется ИИ? Что ж, для человечества этот день может стать последним...

По мнению некоторых экспертов, в ближайшие несколько десятилетий мы можем увидеть, как шаг за шагом развивается самый настоящий искусственный интеллект. Так называемый «общий искусственный интеллект» или ОИИ (англ. AGI) в итоге будет обладать интеллектуальными возможностями, намного превосходящими человеческие.

AGI может изменить человеческую жизнь к лучшему, но неконтролируемый AGI также может привести к катастрофам, вплоть до гибели самого человечества. Это может произойти без какого-либо злого умысла: просто стремясь достичь изначально заложенных в него целей, ОИИ могут создать угрозы здоровью и благополучию человека или даже решить нас уничтожить из самых благих побуждений.

Даже система AGI, разработанная для благотворительных целей, может в конечном итоге нанести большой вред.

В рамках программы исследований, изучающих, как мы можем управлять рисками, связанными с AGI, ученые попытались определить потенциальные риски замены Санта-Клауса системой AGI – рабочее название «SantaNet» - цель которой состоит в доставке подарков детям во всем мире всего за одну ночь.

Нет сомнений в том, что SantaNet может принести радость миру и достичь своей цели, создав армию эльфов, помощников ИИ и дронов. Но какой ценой? Исследователи определили ряд моделей поведения, которые, хотя и имели бы благие намерения, могли оказать неблагоприятное воздействие на здоровье и благополучие человека.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Апокалипсис, которого не было Апокалипсис, которого не было

Знаменитая история о том, как одна ГМ-бактерия едва не погубила мир

Популярная механика
Александр Изряднов: Как бизнес использует нашу веру в героев Александр Изряднов: Как бизнес использует нашу веру в героев

Стив Джобс, Илон Маск — это качественные пиар-продукты, результат сложной работы

СНОБ
Важный нюанс, из-за которого у вас плохо получаются снимки с зумом Важный нюанс, из-за которого у вас плохо получаются снимки с зумом

Съемка с оптическим увеличением только на первый взгляд кажется простой

CHIP
Перестаньте отвечать «я занят». Гарвардские ученые доказали, что это обижает собеседника Перестаньте отвечать «я занят». Гарвардские ученые доказали, что это обижает собеседника

Ученые советуют никогда не отвечать так ни друзьям, ни коллегам

Inc.
Огнем и волной Огнем и волной

3D-печать на сегодня – один из столпов мирового технического прогресса

Популярная механика
2003 год 2003 год

Арест Михаила Ходорковского, появление ГНК, триумф t.A.T.u. и Пол Маккартни

Esquire
«Ирония судьбы»: что говорят о фильме актеры спустя 45 лет? «Ирония судьбы»: что говорят о фильме актеры спустя 45 лет?

Что скрывается за всенародно любимым фильмом?

Cosmopolitan
По законам Солнца: что такое солнечный календарь По законам Солнца: что такое солнечный календарь

Основа солнечного календаря – тропический год, связанный со сменой времен года

Cosmopolitan
6 мотивирующих признаков, что ты худеешь (кроме показателей весов, разумеется) 6 мотивирующих признаков, что ты худеешь (кроме показателей весов, разумеется)

Если замечаешь эти признаки, значит, ты на правильном пути в похудении!

Playboy
Что такое «стокгольмский синдром» и почему люди любят тех, кто над ними издевается Что такое «стокгольмский синдром» и почему люди любят тех, кто над ними издевается

Почему большинство людей так склонны любить тех, кто над ними издевается?

Maxim
Аренда мозга, бизнес в «облаке», дизайн детей: где скрываются ниши на триллион долларов Аренда мозга, бизнес в «облаке», дизайн детей: где скрываются ниши на триллион долларов

Сэм Альтман обсуждает, какие рынки в будущем смогут зарабатывать триллионы

VC.RU
Как девелопер «Самолет» помогает миллиардерам и крупнейшим землевладельцам России зарабатывать деньги Как девелопер «Самолет» помогает миллиардерам и крупнейшим землевладельцам России зарабатывать деньги

Девелопер «Самолет» смог найти общий язык с главными российскими лендлордами

Forbes
Защищенный геном Защищенный геном

Научно обоснованная программа активации 5 защитных функций организма

kiozk originals
«Поначалу с мужчинами играть было трудно»: первая женщина-гроссмейстер Нона Гаприндашвили — о жизни шахматисток и сериале «Ход королевы» «Поначалу с мужчинами играть было трудно»: первая женщина-гроссмейстер Нона Гаприндашвили — о жизни шахматисток и сериале «Ход королевы»

Интервью с первой женщиной-гроссмейстером Ноной Гаприндашвили

Forbes
«Хаос. Создание новой науки» «Хаос. Создание новой науки»

Отрывок из книги Джеймса Глика «Хаос. Создание новой науки»

N+1
Шесть суровых фактов о публичных домах вермахта Шесть суровых фактов о публичных домах вермахта

Война войной, а любовь по расписанию

Maxim
Не как в кино: что мы знаем об отношениях Елизаветы II и Маргарет Тэтчер Не как в кино: что мы знаем об отношениях Елизаветы II и Маргарет Тэтчер

Рассказываем, что на самом деле было между Елизаветой II и Маргарет Тэтчер

Forbes
Юлия Снигирь: «Нужно ценить жизнь, момент «здесь и сейчас» Юлия Снигирь: «Нужно ценить жизнь, момент «здесь и сейчас»

Юлия Снигирь: о сериале «Пассажиры» и итогах года

Grazia
Вейп и электронные сигареты: 4 правила использования на людях (дыми с умом) Вейп и электронные сигареты: 4 правила использования на людях (дыми с умом)

Разбираемся, как этично использовать вейп и электронные сигареты

Playboy
Голос мира Голос мира

Аида Гарифуллина – о том, как она создает себе новогоднее настроение

Grazia
Алиса Фрейндлих и другие знаменитости, пережившие блокаду Ленинграда Алиса Фрейндлих и другие знаменитости, пережившие блокаду Ленинграда

В блокаде оказались и будущие актеры, музыканты, чьи воспоминания мы собрали

Cosmopolitan
Две мумии гамадрилов рассказали о дальних морских путешествиях египтян Две мумии гамадрилов рассказали о дальних морских путешествиях египтян

Родиной мумий гамадрилов оказался регион, охватывающий Эфиопию и соседние страны

N+1
Цены возбуждающего характера: почему не следует разрушать рыночную экономику в угоду популизму Цены возбуждающего характера: почему не следует разрушать рыночную экономику в угоду популизму

Мы рискуем получить или дефицит, или ускоренный рост цен на другие товары

Forbes
Невероятная история CD-диска. Часть 2 Невероятная история CD-диска. Часть 2

Как Philips и Sony внедряли CD-диски на рынок

Популярная механика
Эпиляция хлебом по-древнерусски и другие старинные мужские способы борьбы с растительностью на лице Эпиляция хлебом по-древнерусски и другие старинные мужские способы борьбы с растительностью на лице

Как люди брились до изобретения одноразовых станков?

Maxim
Не ждите, пока в голове загорится лампочка: как придумать прорывную идею для бизнеса Не ждите, пока в голове загорится лампочка: как придумать прорывную идею для бизнеса

Не ждите, что бизнес-идея, как ньютоновское яблоко, сама свалится на голову

Forbes
«Будущее без работы. Технологии, автоматизация и стоит ли их бояться» «Будущее без работы. Технологии, автоматизация и стоит ли их бояться»

Отрывок из книги «Будущее без работы», переведенной Яндекс.Переводчиком

N+1
Как поменять свою жизнь Как поменять свою жизнь

Вопрос о том, как поменять свою жизнь, приходит в голову многим из нас

Psychologies
Все о прокрастинации, или Как перестать откладывать важные дела на потом Все о прокрастинации, или Как перестать откладывать важные дела на потом

Специалисты объясняют, из-за чего люди прокрастинируют и как от этого избавиться

Maxim
Наука гигиены: как часто менять постельное белье и стирать вещи — 9 правил Наука гигиены: как часто менять постельное белье и стирать вещи — 9 правил

Как правильно поддерживать чистоту в доме

Популярная механика
Открыть в приложении