Даже система, созданная для исполнения мечты, может превратить праздник в кошмар

Популярная механикаHi-Tech

Новогодний террор: что будет, если Деда Мороза заменит искусственный интеллект

Разработка систем ИИ идет полным ходом, и, хоть машины становятся умнее день ото дня, это не всегда хорошие новости. Рано или поздно даже система, созданная для исполнения мечты, может превратить праздник в настоящий кошмар.

Василий Макаров

Что произойдет, если вместо доброго духа Рождества и Нового Года праздничными подарками однажды займется ИИ? Что ж, для человечества этот день может стать последним...

По мнению некоторых экспертов, в ближайшие несколько десятилетий мы можем увидеть, как шаг за шагом развивается самый настоящий искусственный интеллект. Так называемый «общий искусственный интеллект» или ОИИ (англ. AGI) в итоге будет обладать интеллектуальными возможностями, намного превосходящими человеческие.

AGI может изменить человеческую жизнь к лучшему, но неконтролируемый AGI также может привести к катастрофам, вплоть до гибели самого человечества. Это может произойти без какого-либо злого умысла: просто стремясь достичь изначально заложенных в него целей, ОИИ могут создать угрозы здоровью и благополучию человека или даже решить нас уничтожить из самых благих побуждений.

Даже система AGI, разработанная для благотворительных целей, может в конечном итоге нанести большой вред.

В рамках программы исследований, изучающих, как мы можем управлять рисками, связанными с AGI, ученые попытались определить потенциальные риски замены Санта-Клауса системой AGI – рабочее название «SantaNet» - цель которой состоит в доставке подарков детям во всем мире всего за одну ночь.

Нет сомнений в том, что SantaNet может принести радость миру и достичь своей цели, создав армию эльфов, помощников ИИ и дронов. Но какой ценой? Исследователи определили ряд моделей поведения, которые, хотя и имели бы благие намерения, могли оказать неблагоприятное воздействие на здоровье и благополучие человека.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

15 кухонных гаджетов, которые мы используем неправильно 15 кухонных гаджетов, которые мы используем неправильно

Этими вещами мы пользуемся неправильно, даже не подозревая об этом

Популярная механика
«Кризис дал возможность инвестировать на лучших условиях»: основатель компании EdutechLab Дмитрий Волошин о менторстве и перспективах российских стартапов «Кризис дал возможность инвестировать на лучших условиях»: основатель компании EdutechLab Дмитрий Волошин о менторстве и перспективах российских стартапов

Основатель компании EdutechLab о бизнес-наставничестве и инвестициях

Forbes
Как общение с чат-ботом убило подростка: полная версия душераздирающей истории Как общение с чат-ботом убило подростка: полная версия душераздирающей истории

Какую неочевидную угрозу таит в себе искусственный интеллект?

Inc.
Равнение назад! Равнение назад!

Почему сильные, здоровые и умные не виноваты перед слабыми, больными и глупыми

Maxim
Криптобудущее Криптобудущее

Жизненный цикл цивилизаций и наступающая эпоха свободы

Популярная механика
86 м² 86 м²

Юлианна Никулина оформила квартиру с видом на Воробьевы горы

AD
54 м² 54 м²

В квартире по проекту архитектурного бюро BIGO позаботились о комфорте кота

AD
Путь из Голливуда на престол: триумф и гибель Грейс Келли Путь из Голливуда на престол: триумф и гибель Грейс Келли

Грейс Келли превратилась из роскошной звезды Голливуда в величественную княгиню

Cosmopolitan
Топ-7 зимних хоррор-видеоигр Топ-7 зимних хоррор-видеоигр

Эти видеоигры доказывают, что зима может быть крайне неуютным временем года

Популярная механика
Чем заняться в Тюмени и Тобольске Чем заняться в Тюмени и Тобольске

Почему именно в Тюмени и Тобольске есть шанс создать успешный турпродукт

СНОБ
Токсичное пятно Токсичное пятно

В результате аварии на ТЭЦ «Норникеля» нефтепродукты растеклись по рекам

Forbes
80 м² 80 м²

Екатерина Бегичева спроектировала квартиру для сына-диджея

AD
Помоги себе сам: 7 способов быстро справиться с эмоциями Помоги себе сам: 7 способов быстро справиться с эмоциями

Как научиться контролировать эмоции и всегда сохранять трезвый ум?

Psychologies
Каким был первый новогодний фильм в истории? Каким был первый новогодний фильм в истории?

В Российской империи первые новогодние фильмы выпустили в 1913 году

Культура.РФ
Иностранцы vs мужчины из России: в чем разница? Иностранцы vs мужчины из России: в чем разница?

За что женщины из России любят иностранцев

Cosmopolitan
#ароматы #ароматы

Парфюм, который позволяет путешествовать не выходя из дома

Glamour
Вернуть себе амбициозность: как Тори Берч и Мина Харрис борются с неравенством в бизнесе Вернуть себе амбициозность: как Тори Берч и Мина Харрис борются с неравенством в бизнесе

Где предпринимательницам искать поддержку?

Forbes
Что расскажет о хозяине поведение его собаки? Что расскажет о хозяине поведение его собаки?

Поведение собаки зависит от того, что происходит с её хозяевами

Psychologies
Как думать самостоятельно. Эссе основателя Y Combinator Пола Грэма о том, как научиться думать своей головой и выходить за рамки Как думать самостоятельно. Эссе основателя Y Combinator Пола Грэма о том, как научиться думать своей головой и выходить за рамки

Можно ли научиться независимому мышлению?

Inc.
Гепарды не захотели охотиться на скот вдали от деревьев для меток Гепарды не захотели охотиться на скот вдали от деревьев для меток

На территории гепардов есть так называемые «узлы связи»

N+1
Как вежливо отказать: 9 советов, если ты хочешь сказать кому-то «нет» Как вежливо отказать: 9 советов, если ты хочешь сказать кому-то «нет»

Подборка советов, которые помогут научиться вежливо отказывать людям

Playboy
Психолог поискового отряда «Лиза Алерт»: «Мы должны понимать тех, кого ищем» Психолог поискового отряда «Лиза Алерт»: «Мы должны понимать тех, кого ищем»

Психолог из «Лиза Алерт» делится своей историей

Psychologies
Активная зима: как поддерживать себя в форме Активная зима: как поддерживать себя в форме

Как зимой побудить себя выйти на улицу и начать тренировку

Psychologies
Защищаем руки Защищаем руки

Руки требуют этой зимой дополнительного ухода

Здоровье
«Не хочу и не обязан»: что нам должны наши друзья? «Не хочу и не обязан»: что нам должны наши друзья?

Разбираемся, есть ли границы в дружеской помощи и поддержке

Psychologies
Что такое сказкотерапия и как она лечит. Интервью с психологом Что такое сказкотерапия и как она лечит. Интервью с психологом

Как сказкотерапия помогает взрослым

РБК
Ученые обнаружили в ядовитой пещере огромную многоножку: миллионы лет под землей Ученые обнаружили в ядовитой пещере огромную многоножку: миллионы лет под землей

В древней пещере Мовиле ученые нашли весьма необычных существ

Популярная механика
«Беременная гимназистка!»: Юрий Лоза высмеял «обидчивого» Басту «Беременная гимназистка!»: Юрий Лоза высмеял «обидчивого» Басту

Автор шлягера "Плот" раскритиковал наставника шоу "Голос"

Cosmopolitan
Взлет разрешен Взлет разрешен

Ученик Николая Цискаридзе, который воспарил до Спартака, Зигфрида и Щелкунчика

GQ
Животноводство в бедных странах перестали считать угрозой для климата Животноводство в бедных странах перестали считать угрозой для климата

Но оно остается ей во многих развитых странах

N+1
Открыть в приложении