Живая сила в военных действиях становится все менее важной

CHIPHi-Tech

Война командных строк

Ведущие специалисты по робототехнике международного уровня предупреждают об ужасном потенциале интеллектуального оружия и требуют его запретить. Но можно ли вообще запретить машинам думать?

В 1899 году представители 26 стран собрались на Гаагской мирной конференции, чтобы принять несколько деклараций, в том числе «О запрещении метания снарядов и взрывчатых веществ с воздушных шаров или при помощи иных подобных новых способов». Данный запрет оказался пророческим. Уже в 1903 году братья Райт впервые совершили полет на самолете, оснащенном двигателем. Но на следующей мирной конференции в 1907 году запрет был фактически отменен: «Воспрещается… бомбардировать каким бы то ни было способом незащищенные города…». Такой ход позволил политикам развязать руки военным, которые уже почувствовали возможности ведения войны с воздуха, а небольшая оговорка о необходимости щадить незащищенные местности разбилась в пух и прах, когда в 1937 году была проведена массированная бомбардировка Герники.

Через 110 лет — и бесчисленное количество бомбежек спустя — оружие стало другим, однако некоторые проблемы остались теми же. Созревает новая технология, которая может трагически изменить жизнь людей и их смерть, — искусственный интеллект (ИИ). Машины, которые умеют думать, вероятно, хороши и в проведении боевых действий. По крайней мере до тех пор, пока они не развивают пацифистские идеи и сознание.

Машины с лицензией на убийство

Осознание огромного потенциала искусственного интеллекта активизировало элиту отрасли ИИ. В открытом письме к ООН такие специалисты в области ИИ, как немец Юрген Шмидхубер, и такие предприниматели, как глава Tesla Илон Маск, потребовали заняться решением проблемы летального оружия. По мнению Маска, конкуренция за превосходство в области ИИ «может стать причиной начала третьей мировой войны». Политика тоже не обошла этот вопрос стороной.

«Самый большой риск нашей цивилизации». Глава Tesla Илон Маск об угрозах автономного оружия: «У меня есть доступ к самым передовым разработкам в области ИИ, и я считаю, что людей должно беспокоить развитие таких технологий»

Но возможно ли вообще запретить или ограничить использование автономного оружия? Вопрос чрезвычайно запутанный, начиная с самого определения машин. В настоящее время используется большое количество терминов — от «боевых роботов» до «интеллектуального оружия». В политике и ученой среде часто используется определение «автономные системы летального оружия» (Lethal autonomous weapon systems — LAWS), также известные как «роботы-убийцы». «Автономные» — потому что система самостоятельно, без вмешательства человека, способна выполнять свою задачу и даже в незнакомых условиях принимать логичные решения. То есть БПЛА, которые используются для прицельной атаки по нажатию кнопки, в текущей их версии не подходят под определение роботов-убийц.

Испытанный симбиоз человека и машины. Дистанционно управляемые автоматы и частично автономные роботы сокращают риски для саперов-людей

Ограничения на летальное оружие, имеющее разрешение убивать, вызывает жаркие споры, поскольку отсюда появляются новые проблемы. Когда в боевых условиях робот идентифицирует противника, с точки зрения этических норм, пожалуй, нет никакой разницы между тем, кто его устраняет — машина самостоятельно или управляющий машиной за тысячу километров оператор. Вопрос будет состоять в другом: сможет ли боец из плоти и крови, принимающий решения, иметь подробную информацию и достаточное количество времени, чтобы отменить предложение машины о каком-либо действии?

В связи с этим эксперты говорят о так называемом надлежащем контроле со стороны человека (meaningful human control). В США использование данного определения зашло слишком далеко. Министерство обороны даже в одной из директив определяет проект по автономным системам летального оружия, который разрешает надлежащий контроль со стороны человека. «Надлежащий» значит следующее: конечное решение может принимать человек, но «может» вовсе не означает, что он должен его принимать. Споры вокруг семантических тонкостей доказывают, что США и некоторые страны из остальных примерно 45, работающих над автономным летальным оружием, наверняка не хотят, чтобы их разработки попали в список запретов ООН.

Надлежащий контроль со стороны человека. Под расплывчатой формулировкой США оставляют за собой возможность решать, какая роль будет отводиться солдатам

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Переток силы Переток силы

Чем полезен российский климат для развития альтернативной энергетики

Forbes
Анна Ардова: «Учусь любить себя!» Анна Ардова: «Учусь любить себя!»

Популярная актриса – о роли в спектакле, новогодних традициях и своих детях

Лиза
Неон-киллер Неон-киллер

Евгения Крегжде поразила нас в самое сердце

Maxim
Андрей Лукашевич Андрей Лукашевич

Управляющий директор Delivery Club Андрей Лукашевич

GQ
Леонид Черный: «Нужно не следовать за трендом, а создавать его» Леонид Черный: «Нужно не следовать за трендом, а создавать его»

Леонид Черный — о главных компетенциях цифровой эпохи и дифиците кадров

РБК
Куда уходит детство Куда уходит детство

О детском телевидении

GQ
Папа может Папа может

В декабре Джуду Лоу исполняется 45

Лиза
1'09''433 это рекорд! 1'09''433 это рекорд!

После трех лет властвования Porsche 918 Spyder отдает корону Lamborghini

Quattroruote
Скрижали новых скреп Скрижали новых скреп

Все ускоряющийся прогресс диктует новые нормы морали

Maxim
Ритуальные танцы Ритуальные танцы

Чтобы облегчить переход на новый уровень, мы используем ритуалы

Psychologies
10 дней каникул в Таиланде 10 дней каникул в Таиланде

Семейные каникулы в этой стране запомнятся надолго и детям, и взрослым

Домашний Очаг
Мехико Мехико

Мехико – один из первых испанских городов на континенте

Esquire
Тебе вождить! Тебе вождить!

Фальсификация голосов и каннибализм на избирательных участках – еще цветочки!

Maxim
Сладких снов Сладких снов

Почему здоровый сон полезен

Cosmopolitan
Мы можем переписать воспоминания Мы можем переписать воспоминания

После травмы некоторые образы, как кадры киноленты, неожиданно всплывают в памяти, причиняя нам боль. Как возникает это явление и можно ли с ним бороться, рассказывает невролог Лионель Наккаш.

Psychologies
Поколение X Поколение X

Как жить в одном мире с представителями поколения Икс?

GQ
Лучше гор могут быть Лучше гор могут быть

На этих зимних курортах вы отлично проведете время

Glamour
Хватает ли тебе эстрогенов? Хватает ли тебе эстрогенов?

Что делать, если возник дефицит эстрогенов

Лиза
Свое, родное Свое, родное

Рецепты русской кухни

9 месяцев
3 простых способа избежать тоски в холодное время года 3 простых способа избежать тоски в холодное время года

Осень и зима в городе — унылое время, когда легко скатиться в хандру. Но эмоции не вводятся в организм снаружи, а исходят изнутри. Как научиться лучше понимать себя и управлять собственным восприятием, чтобы избавиться от тоски и сохранить бодрое настроение?

Psychologies
Александр Носик: В школах нас не учат жизни — а жаль Александр Носик: В школах нас не учат жизни — а жаль

Александр Носик — о своем распавшемся браке и смысле жизни

Караван историй
Лыжники с небес Лыжники с небес

Самолеты на лыжах, пожалуй, еще большая экзотика, чем гидросамолеты

Популярная механика
Впадаю я в экстаз Впадаю я в экстаз

Стоит ли симулировать оргазм и как без этого обойтись?

Glamour
Звездные роботы Звездные роботы

Как стартап из Колорадо стал производителем игровых роботов для Disney

РБК
Танго надежды: наперегонки с болезнью Танго надежды: наперегонки с болезнью

Танцевать на инвалидной коляске — это вызов. Вызов болезни, судьбе. Это решение, которое требует смелости. И Наталье Боровой ее не занимать. К тяжелому диагнозу можно отнестись по-разному. Кто-то ставит крест на прежней жизни и отдается во власть недуга. Кто-то старается принять болезнь, «договориться» с ней. Наталья видит в своем диагнозе хитрого соперника, с которым упрямо соревнуется уже несколько лет. Об отчаянной игре на опережение ее личная история.

Psychologies
Тревожный ботаник. Джесси Айзенберг Тревожный ботаник. Джесси Айзенберг

Странный парень, известный по картинам "не для всех" стал новым Лексом Лютором

Караван историй
HTC Vive: система профессионалов HTC Vive: система профессионалов

Шлем виртуальной реальности HTC Vive во всех подробностях

CHIP
Украина ТВ Украина ТВ

Как украинские студии превратились в поставщиков шоу для российского телевидения

РБК
Между нами тает лед Между нами тает лед

Евгения Медведева завоевала награды на всех российских и мировых первенствах

Glamour
Сейчас я не чувствую себя свободной, и это прекрасно Сейчас я не чувствую себя свободной, и это прекрасно

Интервью с Еленой Подкаминской

Добрые советы
Открыть в приложении