Даже система, созданная для исполнения мечты, может превратить праздник в кошмар

Популярная механикаHi-Tech

Новогодний террор: что будет, если Деда Мороза заменит искусственный интеллект

Разработка систем ИИ идет полным ходом, и, хоть машины становятся умнее день ото дня, это не всегда хорошие новости. Рано или поздно даже система, созданная для исполнения мечты, может превратить праздник в настоящий кошмар.

Василий Макаров

Что произойдет, если вместо доброго духа Рождества и Нового Года праздничными подарками однажды займется ИИ? Что ж, для человечества этот день может стать последним...

По мнению некоторых экспертов, в ближайшие несколько десятилетий мы можем увидеть, как шаг за шагом развивается самый настоящий искусственный интеллект. Так называемый «общий искусственный интеллект» или ОИИ (англ. AGI) в итоге будет обладать интеллектуальными возможностями, намного превосходящими человеческие.

AGI может изменить человеческую жизнь к лучшему, но неконтролируемый AGI также может привести к катастрофам, вплоть до гибели самого человечества. Это может произойти без какого-либо злого умысла: просто стремясь достичь изначально заложенных в него целей, ОИИ могут создать угрозы здоровью и благополучию человека или даже решить нас уничтожить из самых благих побуждений.

Даже система AGI, разработанная для благотворительных целей, может в конечном итоге нанести большой вред.

В рамках программы исследований, изучающих, как мы можем управлять рисками, связанными с AGI, ученые попытались определить потенциальные риски замены Санта-Клауса системой AGI – рабочее название «SantaNet» - цель которой состоит в доставке подарков детям во всем мире всего за одну ночь.

Нет сомнений в том, что SantaNet может принести радость миру и достичь своей цели, создав армию эльфов, помощников ИИ и дронов. Но какой ценой? Исследователи определили ряд моделей поведения, которые, хотя и имели бы благие намерения, могли оказать неблагоприятное воздействие на здоровье и благополучие человека.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Апокалипсис, которого не было Апокалипсис, которого не было

Знаменитая история о том, как одна ГМ-бактерия едва не погубила мир

Популярная механика
18 идей для гастрономического путешествия по России 18 идей для гастрономического путешествия по России

Самые аппетитные пункты в меню страны – и места, где их нужно пробовать

GQ
Только для своих: как и почему изменилось восприятие дома Только для своих: как и почему изменилось восприятие дома

Что на самом деле говорят о нас тенденции в обустройстве дома?

Psychologies
В якутской мерзлоте нашли отлично сохранившуюся тушу молодого шерстистого носорога В якутской мерзлоте нашли отлично сохранившуюся тушу молодого шерстистого носорога

Этот шерстистый носорог дожил до трех-четырех лет, после чего утонул

N+1
Фортуна любит везучих Фортуна любит везучих

Как гарантированно привлечь удачу без глупых суеверий и магии

Maxim
Как в кино: какая она — любовь во снах и наяву Как в кино: какая она — любовь во снах и наяву

Что говорит о нас неопределенность сегодняшнего дня?

РБК
Контуринг по форме лица: примеры звезд и полезные советы Контуринг по форме лица: примеры звезд и полезные советы

"Всемогущий" контуринг способен зрительно скорректировать твои черты лица

Cosmopolitan
Олег Митяев: «Случайность — промысел судьбы» Олег Митяев: «Случайность — промысел судьбы»

«О чем размышляет мужчина, которому за пятьдесят?»

Караван историй
90 м² 90 м²

Квартиру в старом фонде Вера Лемешко оформила в традиционном стиле

AD
Дух рождества Дух рождества

В самом немецком из французских городов Рождество отмечают пышно и со вкусом

Лиза
Как растут бренды Как растут бренды

О чем не знают маркетологи

kiozk originals
Как видеоигры стали новым кино и теперь собираются стать новым IT Как видеоигры стали новым кино и теперь собираются стать новым IT

Как видеоигры будут менять в ближайшее время и на каких из них можно заработать

Forbes
Бразильский динозавр отрастил перьевой гребень и по паре шипов на плечах Бразильский динозавр отрастил перьевой гребень и по паре шипов на плечах

Скорее всего, эти украшения служили для брачных демонстраций

N+1
Супермикроспособности Супермикроспособности

Человеку не дано крыльев, вечной жизни и способностей к телепортации

Maxim
Не решать грандиозные задачи по старинке: как бывший топ-менеджер Google помогает НКО стать эффективными Не решать грандиозные задачи по старинке: как бывший топ-менеджер Google помогает НКО стать эффективными

Энн Мей Чанг о консерватизме государства и опасности грантовой иглы

Forbes
Обработка естественного языка: как создать «грамотного робота» Обработка естественного языка: как создать «грамотного робота»

Почему научить машину писать — легко, а искать ошибки в написанном — трудно

VC.RU
В нашей галактике найдены колоссальные пузыри рентгеновского излучения, ранее неизвестные науке В нашей галактике найдены колоссальные пузыри рентгеновского излучения, ранее неизвестные науке

Астрономы разглядели в ореоле Млечного Пути огромные пузыри излучения

Популярная механика
5 правил интенсивного курса по выживанию в дикой природе от бывшего американского спецназовца и любителя путешествий Эдварда Гриллса 5 правил интенсивного курса по выживанию в дикой природе от бывшего американского спецназовца и любителя путешествий Эдварда Гриллса

Как выжить в дикой природе?

Playboy
5 способов почувствовать себя значительным 5 способов почувствовать себя значительным

Время от времени каждый ощущает себя ничтожным и беспомощным

Psychologies
К гадалке не ходи: как опытный косметолог «читает» наши проблемы по лицу К гадалке не ходи: как опытный косметолог «читает» наши проблемы по лицу

Лицо может выдать не только возраст и настроение, но и рассказать о здоровье

Cosmopolitan
Банкноты-путеводители: по курсу евро Банкноты-путеводители: по курсу евро

Увидеть необычные достопримечательности можно, не тратя евро, а рассматривая их

Вокруг света
«Не будь манной кашей!». Работники Пушкинского музея — об Ирине Антоновой «Не будь манной кашей!». Работники Пушкинского музея — об Ирине Антоновой

Коллеги Ирины Антоновой — о первых встречах, общей работе и заветах

РБК
5 способов сделать так, чтобы к тебе прислушивались вo время zoom конференции 5 способов сделать так, чтобы к тебе прислушивались вo время zoom конференции

Разбираемся, как развить виртуальную харизму

Maxim
Бионические руки не помогли перепрошить осязание Бионические руки не помогли перепрошить осязание

Возможно ли перестроить биологическую обратную связь в протезе руки

N+1
15 мыслей Алексея Мишина 15 мыслей Алексея Мишина

Профессор фигурного катания рассказал о новом ледниковом периоде

GQ
Чем открыть HEIC и как перевести его в JPEG на Windows 7 или 10 Чем открыть HEIC и как перевести его в JPEG на Windows 7 или 10

Самые эффективные способы открыть файл формата .heic

CHIP
73 м² 73 м²

Марина Кутузова спроектировала современный интерьер с классическими деталями

AD
Как погибают солдаты в российской армии Как погибают солдаты в российской армии

История гибели солдата Ярослава Лихаузова

СНОБ
Ты еще в это веришь? 10 самых популярных мифов о косметологии Ты еще в это веришь? 10 самых популярных мифов о косметологии

Эксперт развенчивает самые популярные мифы о косметологии

Cosmopolitan
Все наследство псу под хвост: самые странные пункты из завещаний звезд Все наследство псу под хвост: самые странные пункты из завещаний звезд

Звезды отличаются оригинальностью даже в своих завещаниях

Cosmopolitan
Открыть в приложении