Даже система, созданная для исполнения мечты, может превратить праздник в кошмар

Популярная механикаHi-Tech

Новогодний террор: что будет, если Деда Мороза заменит искусственный интеллект

Разработка систем ИИ идет полным ходом, и, хоть машины становятся умнее день ото дня, это не всегда хорошие новости. Рано или поздно даже система, созданная для исполнения мечты, может превратить праздник в настоящий кошмар.

Василий Макаров

Что произойдет, если вместо доброго духа Рождества и Нового Года праздничными подарками однажды займется ИИ? Что ж, для человечества этот день может стать последним...

По мнению некоторых экспертов, в ближайшие несколько десятилетий мы можем увидеть, как шаг за шагом развивается самый настоящий искусственный интеллект. Так называемый «общий искусственный интеллект» или ОИИ (англ. AGI) в итоге будет обладать интеллектуальными возможностями, намного превосходящими человеческие.

AGI может изменить человеческую жизнь к лучшему, но неконтролируемый AGI также может привести к катастрофам, вплоть до гибели самого человечества. Это может произойти без какого-либо злого умысла: просто стремясь достичь изначально заложенных в него целей, ОИИ могут создать угрозы здоровью и благополучию человека или даже решить нас уничтожить из самых благих побуждений.

Даже система AGI, разработанная для благотворительных целей, может в конечном итоге нанести большой вред.

В рамках программы исследований, изучающих, как мы можем управлять рисками, связанными с AGI, ученые попытались определить потенциальные риски замены Санта-Клауса системой AGI – рабочее название «SantaNet» - цель которой состоит в доставке подарков детям во всем мире всего за одну ночь.

Нет сомнений в том, что SantaNet может принести радость миру и достичь своей цели, создав армию эльфов, помощников ИИ и дронов. Но какой ценой? Исследователи определили ряд моделей поведения, которые, хотя и имели бы благие намерения, могли оказать неблагоприятное воздействие на здоровье и благополучие человека.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

15 кухонных гаджетов, которые мы используем неправильно 15 кухонных гаджетов, которые мы используем неправильно

Этими вещами мы пользуемся неправильно, даже не подозревая об этом

Популярная механика
#лицо #лицо

Все для того, чтобы кожа оставалась свежей, сияющей и увлажненной

Glamour
Клиентки из ада: с чем приходится сталкиваться визажистам Клиентки из ада: с чем приходится сталкиваться визажистам

Клиентки, которых врагу не пожелаешь

Cosmopolitan
Опасная шестерка: самые частые болезни у мужчин и женщин Опасная шестерка: самые частые болезни у мужчин и женщин

Топ-3 самых частых болезней у мужчин и женщин

Cosmopolitan
Квантовый эксперимент: реальность — вопрос личного выбора Квантовый эксперимент: реальность — вопрос личного выбора

Благодаря квантовой механике прошлое может определяться настоящим

Популярная механика
Портретная сходка Портретная сходка

О выставке «В круге Дягилевом» и о том, чем стал этот круг для русской культуры

Weekend
7,3 млн рублей за 4,8 секунд: зачем в России спортивный внедорожник Audi SQ8 7,3 млн рублей за 4,8 секунд: зачем в России спортивный внедорожник Audi SQ8

Одна из важных новинок 2020 года — Audi SQ8

Forbes
Мерцающая звезда пожирает планеты и излучает радиацию Мерцающая звезда пожирает планеты и излучает радиацию

Астрономы обнаружили звезду RZ Piscium, окруженную аномальным пылевым облаком

Популярная механика
Цены возбуждающего характера: почему не следует разрушать рыночную экономику в угоду популизму Цены возбуждающего характера: почему не следует разрушать рыночную экономику в угоду популизму

Мы рискуем получить или дефицит, или ускоренный рост цен на другие товары

Forbes
Названы 9 правил питания, которые помогают жить дольше Названы 9 правил питания, которые помогают жить дольше

Что нужно есть, чтобы жить дольше и быть здоровыми

Inc.
Почему немецкие летчики сбивали так много вражеских самолетов Почему немецкие летчики сбивали так много вражеских самолетов

Что не так с официальной статистикой люфтваффе времен Второй мировой?

Maxim
Алексей Герман и Елена Окопная Алексей Герман и Елена Окопная

Как Ленинградский рок-клуб диктовал моду и почему барахолки — великий источник

Собака.ru
Выбираем телевизор: искусственный интеллект и другие ультрасовременные ТВ-технологии Выбираем телевизор: искусственный интеллект и другие ультрасовременные ТВ-технологии

Что учитывать, выбирая телевизор?

Популярная механика
Что делать, если вы стали свидетелем абьюза? Отвечает психолог Что делать, если вы стали свидетелем абьюза? Отвечает психолог

Что делать, если вы слышите мольбы о помощи из соседней квартиры?

Psychologies
Правила жизни Юрия Никулина Правила жизни Юрия Никулина

Правила жизни народного артиста СССР и артиста цирка Юрия Никулина

Esquire
#макияж #макияж

Помады, тени, хайлайтеры, блески, флюиды для красоты хорошего настроения

Glamour
Всё о малотравматичной блефаропластике — как «поднять» веки малой кровью Всё о малотравматичной блефаропластике — как «поднять» веки малой кровью

Вместе с экспертом разбираемся, какую блефаропластику выбрать

Cosmopolitan
Политика Политика

Политолог Глеб Павловский подмечает главные тренды в российской политике нулевых

Esquire
Дружба, безопасность и домашние обязанности: советы психолога для детей Дружба, безопасность и домашние обязанности: советы психолога для детей

Отрывок из книги «Веселая психология для детей. Дома и в школе»

Psychologies
Яхты и жених старше отца: как живет племянница принцессы Дианы Китти Спенсер? Яхты и жених старше отца: как живет племянница принцессы Дианы Китти Спенсер?

Как живет племянница принцессы Дианы и двоюродная сестра принца Гарри

Cosmopolitan
«Грешник я». Тиньков рассказал, как продавал банк Грефу и Воложу, и о чем жалеет в жизни «Грешник я». Тиньков рассказал, как продавал банк Грефу и Воложу, и о чем жалеет в жизни

Олег Тиньков о продаже своего бизнеса и о борьбе с лейкемией

Inc.
Новогодние фильмы: список лучших и небанальных картин для семейного праздника Новогодние фильмы: список лучших и небанальных картин для семейного праздника

Эти фильмы подарят вам праздничное настроение

Playboy
Правила жизни Ирины Антоновой Правила жизни Ирины Антоновой

Правила жизни президент ГМИИ имени Пушкина Ирины Антоновой

Esquire
Меха и мужские костюмы: как одеваются знаменитые российские балерины Меха и мужские костюмы: как одеваются знаменитые российские балерины

Выяснили, как в обычной жизни одеваются российские балерины

Cosmopolitan
Что будет, если ездить с затертыми номерами. Юристы все объяснили Что будет, если ездить с затертыми номерами. Юристы все объяснили

Удастся ли обмануть инспектора и дорожные камеры, если стереть краску с номера?

РБК
Учи слова: как грамотно общаться с парикмахером Учи слова: как грамотно общаться с парикмахером

Сохрани себе наш словарик и говори с парикмахером на одном языке!

Cosmopolitan
Как слушать и слышать того, с кем вы не согласны Как слушать и слышать того, с кем вы не согласны

Как попробовать разобраться в чужой позиции?

Psychologies
Такой «Креты» вы еще не видели. Тест-драйв Hyundai Creta Black&Brown Такой «Креты» вы еще не видели. Тест-драйв Hyundai Creta Black&Brown

Зачем народному корейскому кроссоверу понадобилась лимитированная спецверсия

РБК
Настоящее удовольствие для каникул: новый фильм Вуди Аллена «Фестиваль Рифкина» Настоящее удовольствие для каникул: новый фильм Вуди Аллена «Фестиваль Рифкина»

«Фестиваль Рифкина» — Луи Гаррель, хороший юмор и испанское побережье

Forbes
Порезал руку - и доиграл! ДиКаприо и другие актеры, получившие травмы в кадре Порезал руку - и доиграл! ДиКаприо и другие актеры, получившие травмы в кадре

Порой экстремальные сцены с битвами и гневом — это импровизация актеров

Cosmopolitan
Открыть в приложении