Даже система, созданная для исполнения мечты, может превратить праздник в кошмар

Популярная механикаHi-Tech

Новогодний террор: что будет, если Деда Мороза заменит искусственный интеллект

Разработка систем ИИ идет полным ходом, и, хоть машины становятся умнее день ото дня, это не всегда хорошие новости. Рано или поздно даже система, созданная для исполнения мечты, может превратить праздник в настоящий кошмар.

Василий Макаров

Что произойдет, если вместо доброго духа Рождества и Нового Года праздничными подарками однажды займется ИИ? Что ж, для человечества этот день может стать последним...

По мнению некоторых экспертов, в ближайшие несколько десятилетий мы можем увидеть, как шаг за шагом развивается самый настоящий искусственный интеллект. Так называемый «общий искусственный интеллект» или ОИИ (англ. AGI) в итоге будет обладать интеллектуальными возможностями, намного превосходящими человеческие.

AGI может изменить человеческую жизнь к лучшему, но неконтролируемый AGI также может привести к катастрофам, вплоть до гибели самого человечества. Это может произойти без какого-либо злого умысла: просто стремясь достичь изначально заложенных в него целей, ОИИ могут создать угрозы здоровью и благополучию человека или даже решить нас уничтожить из самых благих побуждений.

Даже система AGI, разработанная для благотворительных целей, может в конечном итоге нанести большой вред.

В рамках программы исследований, изучающих, как мы можем управлять рисками, связанными с AGI, ученые попытались определить потенциальные риски замены Санта-Клауса системой AGI – рабочее название «SantaNet» - цель которой состоит в доставке подарков детям во всем мире всего за одну ночь.

Нет сомнений в том, что SantaNet может принести радость миру и достичь своей цели, создав армию эльфов, помощников ИИ и дронов. Но какой ценой? Исследователи определили ряд моделей поведения, которые, хотя и имели бы благие намерения, могли оказать неблагоприятное воздействие на здоровье и благополучие человека.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

15 кухонных гаджетов, которые мы используем неправильно 15 кухонных гаджетов, которые мы используем неправильно

Этими вещами мы пользуемся неправильно, даже не подозревая об этом

Популярная механика
Астрономы объявили о загадочном исчезновении самой большой черной дыры во Вселенной Астрономы объявили о загадочном исчезновении самой большой черной дыры во Вселенной

Черные дыры не могут исчезать бесследно... Или могут?

Популярная механика
Самые смешные животные в дикой природе в 2023 году Самые смешные животные в дикой природе в 2023 году

Фотографии, от которых заржет даже моль!

Maxim
Пора на маркет: почему бизнес подключается к маркетплейсам Пора на маркет: почему бизнес подключается к маркетплейсам

Почему маркетплейсы всё более популярны, и чем они выгодны компаниям?

Inc.
Геологи предложили новую теорию формирования ледяных щитов Земли Геологи предложили новую теорию формирования ледяных щитов Земли

Движение тектонических плит резко замедлилось, что привело к изменению климата

Популярная механика
«Мне 50, и я не стремлюсь выглядеть моложе» «Мне 50, и я не стремлюсь выглядеть моложе»

История нашей героини о том, почему она отказалась от омолаживающих процедур

Psychologies
Билл Гейтс рекомендует: как талантливые дилетанты становятся победителями по жизни Билл Гейтс рекомендует: как талантливые дилетанты становятся победителями по жизни

Отрывок из книги Дэвида Эпштейна «Универсалы»

Forbes
Откуда берутся странные научные открытия, или как музыка может стать терапией и повышать иммунитет Откуда берутся странные научные открытия, или как музыка может стать терапией и повышать иммунитет

Отрывок из книги «Легко ли плыть в сиропе» о невероятных научных открытиях

Forbes
Ресторатор Владимир Перельман: «Я ухожу в искусство!» Ресторатор Владимир Перельман: «Я ухожу в искусство!»

Ресторатор Владимир Перельман о благотворительности и экспансии за рубеж

РБК
Зачем Путин решил объявить выходным 31 декабря Зачем Путин решил объявить выходным 31 декабря

31 декабря, повсеместно объявляется выходным днем

СНОБ
Стоит ли покупать видеокарты на вторичке: плюсы и минусы Стоит ли покупать видеокарты на вторичке: плюсы и минусы

Сэкономить или же переплатить за гарантированно работоспособную видеокарту?

CHIP
8 странных фактов о мистере Алистере Кроули 8 странных фактов о мистере Алистере Кроули

Темный маг и великий инфернальный оккультист мистер Кроули

Maxim
Если болят колени: восстанавливаем здоровье суставов Если болят колени: восстанавливаем здоровье суставов

Разбираемся, как именно нужно заботиться о коленях

Psychologies
«Осознание времени: Прошлое и будущее Земли глазами геолога» «Осознание времени: Прошлое и будущее Земли глазами геолога»

Отрывок из книги «Осознание времени» Маршии Бьорнеруд

N+1
Правила жизни Энтони Хопкинса Правила жизни Энтони Хопкинса

Правила жизни актера Энтони Хопкинса

Esquire
80 м² 80 м²

Дизайнер Лидия Трубецких оформила квартиру в нейтральных природных оттенках

AD
«Технологии должны облегчать жизнь человека, но ко многим процессам мы настолько привыкли, что и не думаем, что их можно как-то упростить» «Технологии должны облегчать жизнь человека, но ко многим процессам мы настолько привыкли, что и не думаем, что их можно как-то упростить»

Как работает погодное приложение, которое показывает прогноз погоды без цифр

Inc.
Как понять, что вам нужно проверить сердце? Как понять, что вам нужно проверить сердце?

Кардиолог Алексей Утин о том, кому и когда пора проверять сердце

РБК
Самые популярные позы для сидения на диване с девушкой и что они значат Самые популярные позы для сидения на диване с девушкой и что они значат

Что значат самые ходовые позы для обнимашек на диване

Maxim
Светлое будущее Светлое будущее

Под иностранным именем Тесс Йопп скрывается наша бойкая соотечественница

Vogue
Евгений Гришковец: Если бы мне пришлось сдавать ЕГЭ, я бы не окончил школу Евгений Гришковец: Если бы мне пришлось сдавать ЕГЭ, я бы не окончил школу

Писатель Евгений Гришковец рассказывает, как жить с дислексией

СНОБ
Когда в России состоялся первый концерт классической музыки? Когда в России состоялся первый концерт классической музыки?

Концертная жизнь в России началась с открытия Филармонического общества

Культура.РФ
Физики оценили важность релятивистских эффектов при фотоионизации ридберговских состояний Физики оценили важность релятивистских эффектов при фотоионизации ридберговских состояний

Физики продемонстрировали работоспособность полурелятивистского подхода

N+1
«Отец уговаривал ее»: дочь Олега Ефремова рассказала об аборте Нины Дорошиной «Отец уговаривал ее»: дочь Олега Ефремова рассказала об аборте Нины Дорошиной

Анастасия Ефремова рассказала об отношениях своей матери Ирины Мазурук

Cosmopolitan
9 мифов о еде, которым ты веришь совершенно напрасно 9 мифов о еде, которым ты веришь совершенно напрасно

Узнай всю правду о еде, и питаться правильно тебе будет гораздо легче

Maxim
Дрожжи революции. Как «сухой» закон погубил Российскую империю Дрожжи революции. Как «сухой» закон погубил Российскую империю

Как царское правительство боролось с пьянством и при чем тут революция

СНОБ
Биология творчества и шедевры душевнобольных Биология творчества и шедевры душевнобольных

Отрывок из книги Эрика Канделя «Расстроенная психика»

СНОБ
Актриса в разводе и бунтарь: история романа принца Гарри и Меган Маркл Актриса в разводе и бунтарь: история романа принца Гарри и Меган Маркл

Какие испытания прошли Меган и Гарри, чтобы остаться вместе?

Cosmopolitan
Чужие здесь не ходят: к кому обращается Путин на пресс-конференциях и прямых линиях Чужие здесь не ходят: к кому обращается Путин на пресс-конференциях и прямых линиях

Пресс-конференции президента рассчитаны на россиян старшего поколения

Forbes
Страшные тайны королевских браков: измены, внебрачные дети и скандальный развод Страшные тайны королевских браков: измены, внебрачные дети и скандальный развод

Королевский брак может казаться сказкой, но за ним кроются ограничения

Cosmopolitan
Открыть в приложении