Живая сила в военных действиях становится все менее важной

CHIPHi-Tech

Война командных строк

Ведущие специалисты по робототехнике международного уровня предупреждают об ужасном потенциале интеллектуального оружия и требуют его запретить. Но можно ли вообще запретить машинам думать?

В 1899 году представители 26 стран собрались на Гаагской мирной конференции, чтобы принять несколько деклараций, в том числе «О запрещении метания снарядов и взрывчатых веществ с воздушных шаров или при помощи иных подобных новых способов». Данный запрет оказался пророческим. Уже в 1903 году братья Райт впервые совершили полет на самолете, оснащенном двигателем. Но на следующей мирной конференции в 1907 году запрет был фактически отменен: «Воспрещается… бомбардировать каким бы то ни было способом незащищенные города…». Такой ход позволил политикам развязать руки военным, которые уже почувствовали возможности ведения войны с воздуха, а небольшая оговорка о необходимости щадить незащищенные местности разбилась в пух и прах, когда в 1937 году была проведена массированная бомбардировка Герники.

Через 110 лет — и бесчисленное количество бомбежек спустя — оружие стало другим, однако некоторые проблемы остались теми же. Созревает новая технология, которая может трагически изменить жизнь людей и их смерть, — искусственный интеллект (ИИ). Машины, которые умеют думать, вероятно, хороши и в проведении боевых действий. По крайней мере до тех пор, пока они не развивают пацифистские идеи и сознание.

Машины с лицензией на убийство

Осознание огромного потенциала искусственного интеллекта активизировало элиту отрасли ИИ. В открытом письме к ООН такие специалисты в области ИИ, как немец Юрген Шмидхубер, и такие предприниматели, как глава Tesla Илон Маск, потребовали заняться решением проблемы летального оружия. По мнению Маска, конкуренция за превосходство в области ИИ «может стать причиной начала третьей мировой войны». Политика тоже не обошла этот вопрос стороной.

«Самый большой риск нашей цивилизации». Глава Tesla Илон Маск об угрозах автономного оружия: «У меня есть доступ к самым передовым разработкам в области ИИ, и я считаю, что людей должно беспокоить развитие таких технологий»

Но возможно ли вообще запретить или ограничить использование автономного оружия? Вопрос чрезвычайно запутанный, начиная с самого определения машин. В настоящее время используется большое количество терминов — от «боевых роботов» до «интеллектуального оружия». В политике и ученой среде часто используется определение «автономные системы летального оружия» (Lethal autonomous weapon systems — LAWS), также известные как «роботы-убийцы». «Автономные» — потому что система самостоятельно, без вмешательства человека, способна выполнять свою задачу и даже в незнакомых условиях принимать логичные решения. То есть БПЛА, которые используются для прицельной атаки по нажатию кнопки, в текущей их версии не подходят под определение роботов-убийц.

Испытанный симбиоз человека и машины. Дистанционно управляемые автоматы и частично автономные роботы сокращают риски для саперов-людей

Ограничения на летальное оружие, имеющее разрешение убивать, вызывает жаркие споры, поскольку отсюда появляются новые проблемы. Когда в боевых условиях робот идентифицирует противника, с точки зрения этических норм, пожалуй, нет никакой разницы между тем, кто его устраняет — машина самостоятельно или управляющий машиной за тысячу километров оператор. Вопрос будет состоять в другом: сможет ли боец из плоти и крови, принимающий решения, иметь подробную информацию и достаточное количество времени, чтобы отменить предложение машины о каком-либо действии?

В связи с этим эксперты говорят о так называемом надлежащем контроле со стороны человека (meaningful human control). В США использование данного определения зашло слишком далеко. Министерство обороны даже в одной из директив определяет проект по автономным системам летального оружия, который разрешает надлежащий контроль со стороны человека. «Надлежащий» значит следующее: конечное решение может принимать человек, но «может» вовсе не означает, что он должен его принимать. Споры вокруг семантических тонкостей доказывают, что США и некоторые страны из остальных примерно 45, работающих над автономным летальным оружием, наверняка не хотят, чтобы их разработки попали в список запретов ООН.

Надлежащий контроль со стороны человека. Под расплывчатой формулировкой США оставляют за собой возможность решать, какая роль будет отводиться солдатам

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Переток силы Переток силы

Чем полезен российский климат для развития альтернативной энергетики

Forbes
Экспресс-уборка Экспресс-уборка

Алгоритм быстрой уборки перед приездом гостей

Домашний Очаг
В Эдем возьмут не всех: почему многие предсказания светлого будущего грешат социальным неравенством В Эдем возьмут не всех: почему многие предсказания светлого будущего грешат социальным неравенством

Размышления о будущем не всегда были свойственны людям

РБК
День согласия и примирения День согласия и примирения

Глеб Амуров препарирует главную новогоднюю примету

Glamour
Автобудущее Автобудущее

Мы находимся на пороге одних из самых быстрых перемен в работе транспорта

Популярная механика
Хлеб на зрелища Хлеб на зрелища

10 самых важных спортивных сделок 2017 года

Forbes
Одна на всех Романовых Одна на всех Романовых

Матильда Кшесинская прожила долгую и счастливую жизнь

Дилетант
Знаки судьбы? Знаки судьбы?

Откуда берутся приметы и суеверия и почему мы до сих пор в них верим?

Лиза
Lada Vesta SW Cross Lada Vesta SW Cross

Lada вошла в десятку любимейших автомобильных брендов наших соотечественников

Quattroruote
Секреты съемок «Звездных Войн» Секреты съемок «Звездных Войн»

Все, что вы хотели знать о закулисье великой киносаги

CHIP
71 факт о главном плейбое планеты 71 факт о главном плейбое планеты

Лучшее о жизни культурного гиганта и главного плейбоя планеты Хью Хефнера

Playboy
5 способов взбодриться этой зимой 5 способов взбодриться этой зимой

Сложно просыпаться по утрам, не хочется лишний раз выходить из дома, по вечерам просто нет сил… Синдромы зимней хандры всем знакомы и вполне научно объяснимы: нехватка солнца и витаминов, короткий световой день и особенность сезонных биоритмов. Зимой природа спит. И нам тоже хочется. Однако есть способы справиться с этим состоянием.

Psychologies
Балерина vs ЦК Балерина vs ЦК

Матильда Кшесинская оставила о себе память и в судебных архивах

Дилетант
«Работая в кино, нельзя быть хорошим парнем» «Работая в кино, нельзя быть хорошим парнем»

Прагматичный и мудрый Энтони Хопкинс – об актерстве, деньгах и медных трубах

Playboy
Ритуальные танцы Ритуальные танцы

Чтобы облегчить переход на новый уровень, мы используем ритуалы

Psychologies
Дон Кихот должен победить Дон Кихот должен победить

Почему швейцарцы верят на слово владельцу армавирского завода

Русский репортер
Больше не надо Больше не надо

Что делать, если партнер настроен на секс, а вам этого не особенно хочется?

Добрые советы
Покорители стен: ледолазы Покорители стен: ледолазы

Не выпускать ледоруб из рук: потеряв инструмент, спортсмен сходит с дистанции

Популярная механика
Крепкая любовь Крепкая любовь

Все о кофе

Добрые советы
Главная сцена Главная сцена

34-летняя певица Зара считает, что самое важное в женщине – ее энергетика

Cosmopolitan
Волшебство тажина Волшебство тажина

Если вы думаете, что подарить увлеченному кулинару, подарите тажин

Домашний Очаг
Быть влюбчивым после 50-ти – это ненормально Быть влюбчивым после 50-ти – это ненормально

Интервью с Алексеем Кортневым

Лиза
Курт Воннегут «Портфель сосунка» Курт Воннегут «Портфель сосунка»

Заглавная история из книги сборника рассказов «Портфель сосунка»

Esquire
Хватит капризничать! Хватит капризничать!

Что делать с проявлением детских негативных эмоций

Лиза
Со всей возможной любовью Со всей возможной любовью

Александр Цыпкин о письмах фанаток и планах на будущее

Glamour
Я и мое благоустройство Я и мое благоустройство

О том, что бывает, когда вы доверяете государству все решать за вас

GQ
Письмо редактора Письмо редактора

Главный редактор – об исполнении желаний

Cosmopolitan
Ирина Антонова Ирина Антонова

Правила жизни искусствоведа Ирины Антоновой

Esquire
Так ли надежна биометрия? Так ли надежна биометрия?

Можно ли обойти проверку отпечатков пальцев или сканирование глаза?

CHIP
12 лучших авто года по версии GQ 12 лучших авто года по версии GQ

Дюжина лучших автомобилей года

GQ
Открыть в приложении