Живая сила в военных действиях становится все менее важной

CHIPHi-Tech

Война командных строк

Ведущие специалисты по робототехнике международного уровня предупреждают об ужасном потенциале интеллектуального оружия и требуют его запретить. Но можно ли вообще запретить машинам думать?

В 1899 году представители 26 стран собрались на Гаагской мирной конференции, чтобы принять несколько деклараций, в том числе «О запрещении метания снарядов и взрывчатых веществ с воздушных шаров или при помощи иных подобных новых способов». Данный запрет оказался пророческим. Уже в 1903 году братья Райт впервые совершили полет на самолете, оснащенном двигателем. Но на следующей мирной конференции в 1907 году запрет был фактически отменен: «Воспрещается… бомбардировать каким бы то ни было способом незащищенные города…». Такой ход позволил политикам развязать руки военным, которые уже почувствовали возможности ведения войны с воздуха, а небольшая оговорка о необходимости щадить незащищенные местности разбилась в пух и прах, когда в 1937 году была проведена массированная бомбардировка Герники.

Через 110 лет — и бесчисленное количество бомбежек спустя — оружие стало другим, однако некоторые проблемы остались теми же. Созревает новая технология, которая может трагически изменить жизнь людей и их смерть, — искусственный интеллект (ИИ). Машины, которые умеют думать, вероятно, хороши и в проведении боевых действий. По крайней мере до тех пор, пока они не развивают пацифистские идеи и сознание.

Машины с лицензией на убийство

Осознание огромного потенциала искусственного интеллекта активизировало элиту отрасли ИИ. В открытом письме к ООН такие специалисты в области ИИ, как немец Юрген Шмидхубер, и такие предприниматели, как глава Tesla Илон Маск, потребовали заняться решением проблемы летального оружия. По мнению Маска, конкуренция за превосходство в области ИИ «может стать причиной начала третьей мировой войны». Политика тоже не обошла этот вопрос стороной.

«Самый большой риск нашей цивилизации». Глава Tesla Илон Маск об угрозах автономного оружия: «У меня есть доступ к самым передовым разработкам в области ИИ, и я считаю, что людей должно беспокоить развитие таких технологий»

Но возможно ли вообще запретить или ограничить использование автономного оружия? Вопрос чрезвычайно запутанный, начиная с самого определения машин. В настоящее время используется большое количество терминов — от «боевых роботов» до «интеллектуального оружия». В политике и ученой среде часто используется определение «автономные системы летального оружия» (Lethal autonomous weapon systems — LAWS), также известные как «роботы-убийцы». «Автономные» — потому что система самостоятельно, без вмешательства человека, способна выполнять свою задачу и даже в незнакомых условиях принимать логичные решения. То есть БПЛА, которые используются для прицельной атаки по нажатию кнопки, в текущей их версии не подходят под определение роботов-убийц.

Испытанный симбиоз человека и машины. Дистанционно управляемые автоматы и частично автономные роботы сокращают риски для саперов-людей

Ограничения на летальное оружие, имеющее разрешение убивать, вызывает жаркие споры, поскольку отсюда появляются новые проблемы. Когда в боевых условиях робот идентифицирует противника, с точки зрения этических норм, пожалуй, нет никакой разницы между тем, кто его устраняет — машина самостоятельно или управляющий машиной за тысячу километров оператор. Вопрос будет состоять в другом: сможет ли боец из плоти и крови, принимающий решения, иметь подробную информацию и достаточное количество времени, чтобы отменить предложение машины о каком-либо действии?

В связи с этим эксперты говорят о так называемом надлежащем контроле со стороны человека (meaningful human control). В США использование данного определения зашло слишком далеко. Министерство обороны даже в одной из директив определяет проект по автономным системам летального оружия, который разрешает надлежащий контроль со стороны человека. «Надлежащий» значит следующее: конечное решение может принимать человек, но «может» вовсе не означает, что он должен его принимать. Споры вокруг семантических тонкостей доказывают, что США и некоторые страны из остальных примерно 45, работающих над автономным летальным оружием, наверняка не хотят, чтобы их разработки попали в список запретов ООН.

Надлежащий контроль со стороны человека. Под расплывчатой формулировкой США оставляют за собой возможность решать, какая роль будет отводиться солдатам

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Переток силы Переток силы

Чем полезен российский климат для развития альтернативной энергетики

Forbes
Допинг национального масштаба Допинг национального масштаба

5 декабря МОК отстранил сборную России от участия в зимней Олимпиаде-2018

РБК
100 самых сексуальных женщин страны: 100-53 100 самых сексуальных женщин страны: 100-53

Итоговый рейтинг «100 самых сексуальных женщин страны – 2019»

Maxim
Mercedes-Benz A-Класс Mercedes-Benz A-Класс

Третье поколение хэтчбека А-Класса открестилось от своих предшественников

АвтоМир
«Нефть будущего» «Нефть будущего»

Сырье, необходимое для производства смартфонов, уже считается «нефтью будущего»

CHIP
Впадаю я в экстаз Впадаю я в экстаз

Стоит ли симулировать оргазм и как без этого обойтись?

Glamour
Слово королевы Слово королевы

Хелен Миррен — о своей русской крови, феминизме и стиле Мелании Трамп

Vogue
“Страсть должна не сжигать, а питать” “Страсть должна не сжигать, а питать”

Психоаналитик Андрей Россохин предостерегает против крайностей

Psychologies
Сила притяжения Сила притяжения

Почему различия – не помеха любви?

Psychologies
Между нами тает лед Между нами тает лед

Евгения Медведева завоевала награды на всех российских и мировых первенствах

Glamour
Поколение на горошине Поколение на горошине

Такие ранимые и вместе с тем такие агрессивные

Maxim
Хотела летать Хотела летать

Ирина Иерусалимская всегда хотела быть только стюардессой

Домашний Очаг
Анна Плетнева. Мне пришлось от нее отказаться... Анна Плетнева. Мне пришлось от нее отказаться...

Месяц не могла прийти в себя, началась жуткая депрессия

Караван историй
Изобразительное искусство Изобразительное искусство

Светлана Ходченкова распрощалась с прилипшим к ней амплуа лирической героини

Glamour
Сейчас я не чувствую себя свободной, и это прекрасно Сейчас я не чувствую себя свободной, и это прекрасно

Интервью с Еленой Подкаминской

Добрые советы
Мифы о простудных заболеваниях Мифы о простудных заболеваниях

Разбираемся с самыми распространенными заблуждениями о простуде

9 месяцев

История Олеси Косимовой

Psychologies
Промотур в городе света Промотур в городе света

Рассказ Тома Хэнкса из дебютного сборника актера

Esquire
Украина ТВ Украина ТВ

Как украинские студии превратились в поставщиков шоу для российского телевидения

РБК
На лице написано На лице написано

Алгоритмы распознавания лиц понемногу превращаются во всевидящее око

Популярная механика
Продукты, которые не стоит есть на ночь Продукты, которые не стоит есть на ночь

На пустой желудок уснуть сложно. И вот вы открываете холодильник в поисках, чем бы перекусить. Учтите, некоторые продукты не способствуют крепкому здоровому сну.

Psychologies
Семь пятниц на неделе Семь пятниц на неделе

Расида Лакоба — создатель марки Rasario Atelier

Glamour
Я и мое благоустройство Я и мое благоустройство

О том, что бывает, когда вы доверяете государству все решать за вас

GQ
Как все запутано Как все запутано

«Зачем просто, если можно сложно?»

Psychologies
Как выбрать противовирусное средство? Как выбрать противовирусное средство?

Как не ошибиться в выборе препаратов

Лиза
Александры Ильины: старший и младший Александры Ильины: старший и младший

Отец и сын Ильины — о своих корнях, любимой профессии и крутых поворотах судьбы

Караван историй
Маргарита Симоньян: Высокие отношения Маргарита Симоньян: Высокие отношения

Однажды прочитала в "Фейсбуке": "Здравствуйте, Маргарита! Это Тигран Кеосаян"

Караван историй
Движение в радость: почему спорт дарит позитив Движение в радость: почему спорт дарит позитив

Вы замечали, что те, кто занимается спортом, энергичнее и бодрее тех, кто предпочитает ленивые вечера на диване? По идее, все должно быть наоборот: тренировки отнимают много сил, а блаженное ничегонеделание их восстанавливает. Но все не так просто. Что происходит с мозгом, когда мы тренируемся, и что делать, если спорт не в радость?

Psychologies
Пусть говорит Пусть говорит

Резидент Stand Up Елена Новикова про Новый год

Cosmopolitan
Письмо редактора Письмо редактора

Главный редактор – об исполнении желаний

Cosmopolitan
Открыть в приложении