Автономный режим боевых роботов может представлять опасность для человечества

ForbesHi-Tech

Бесчеловечное решение: как развитие боевых роботов достигло опасной черты

Олег Шакиров

Фото Mehmet Kaman / Anadolu Agency via Getty Images

В марте 2020 года в Ливии беспилотник без команды от человека выследил силы противника и нанес по ним удар. Инцидент, возможно, с первым известным случаем атаки ударного беспилотника без получения явного приказа от человека показывает опасность распространения автономных систем вооружений, считает консультант ПИР-центра Олег Шакиров.

В ходе военных действий в Ливии разыгрался сюжет из научной фантастики. Беспилотные летательные аппараты автономно, без команды от человека, действуя по заданной программе, выследили силы противника (подразделения, примкнувшие к командующему Ливийской национальной армии Халифе Хафтару) и нанесли по ним удар.

Это произошло еще в марте 2020 года, однако лишь спустя год об инциденте кратко написала группа экспертов ООН по Ливии — более чем в 500-страничном докладе нападению дронов уделено два предложения. В середине мая инцидент был кратко упомянут в статье правозащитной организации Human Rights Watch, затем в Бюллетене ученых-атомщиков и издании New Scientist. Благодаря публикации NY Post история наконец вышла к широкой аудитории.

Автономный режим

Внимание к, казалось бы, давнему и не имевшему видимых последствий событию легко объяснимо. Уже несколько десятилетий военные применяют ударные и разведывательные беспилотники, а также роботы, способные выполнять задачи на суше или в воде. Однако такая техника удаленно управляется человеком — в армии США дроны официально называются не беспилотными, а дистанционно пилотируемыми.

Автономные вооружения, в отличие от управляемых, действуют самостоятельно, без участия оператора. В худшем случае отсутствие человеческого контроля может привести к непредвиденным жертвам — на этой опасности делают акцент активисты, выступающие за запрет боевых роботов. Что именно может пойти не так, предсказать сложно, но вероятные сбои может представить любой, кто сталкивался с ошибками в работе сервисов на основе искусственного интеллекта, таких как интернет-поисковики, чат-боты или приложения для распознавания текста и изображений.

Примером вооружений, которые могут функционировать автономно при переключении в соответствующий режим, эксперты называют автоматическую туррель SGR-A1, разработанную компанией Samsung Techwin и используемую для охраны демилитаризованной зоны на Корейском полуострове. Сам производитель этого не признавал, утверждая, что для поражения целей необходимо участие человека. Автономный режим есть в системе противоракетной обороны «Иджис», размещаемой на американских кораблях, а также на военных базах в Европе. В этих случаях подразумевается, что оператор сознательно примет решение переключить такую систему в автономный режим и обратно.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Девушки и яйца: как стильные и вкусные завтраки приносят сотни миллионов Девушки и яйца: как стильные и вкусные завтраки приносят сотни миллионов

Как две девушки сделали бизнес на блюдах с яйцами?

Forbes
Я бы в лётчики пошёл, пусть меня научат: фильмы о людях с необычной профессией Я бы в лётчики пошёл, пусть меня научат: фильмы о людях с необычной профессией

Фильмы о людях с профессиями, о которых мы едва догадывались

Cosmopolitan
Один снимок, миллион проблем: почему не стоит публиковать фото посадочного талона в социальных сетях Один снимок, миллион проблем: почему не стоит публиковать фото посадочного талона в социальных сетях

Чем рискуют те, кто решился на традиционное фото с посадочным талоном?

ТехИнсайдер
Ночь в коробке под мостом, насмешки сослуживцев и другие факты о принце Уильяме Ночь в коробке под мостом, насмешки сослуживцев и другие факты о принце Уильяме

Малоизвестные факты о принце Уильяме

Cosmopolitan
Психология влияния Психология влияния

Как не стать жертвой мастера влияния и убеждения

kiozk originals
Роботы с русской душой: как выпускник ВГИКа придумал сельский киберпанк, который оценил даже Дмитрий Рогозин Роботы с русской душой: как выпускник ВГИКа придумал сельский киберпанк, который оценил даже Дмитрий Рогозин

Русская деревня с роботами, кибердоярками и фрактальными огурцами на грядках

Inc.
Как не попасть впросак на чужой свадьбе: 5 вещей, которые не стоит надевать Как не попасть впросак на чужой свадьбе: 5 вещей, которые не стоит надевать

Какой одежды стоит остерегаться, собираясь на свадьбу в качестве гостя

VOICE
Пятиминутный путеводитель по... странному спорту Пятиминутный путеводитель по... странному спорту

Странные виды спорта, странные чемпионы и странные спортивные снаряды

Esquire
Экзотические сексуальные обычаи древних ацтеков Экзотические сексуальные обычаи древних ацтеков

Если честно, мы бы не хотели быть жителями ацтекской империи

Maxim
Научный подход к счастью: 5 книг, которым можно доверять Научный подход к счастью: 5 книг, которым можно доверять

Книги, в которых счастье рассматривается с научной точки зрения

Популярная механика
Мобильный офис Мобильный офис

Как выпускница физфака построила мебельную компанию в России

Forbes
Как я познакомилась с 26-летним Миком Джаггером (и невольно его полюбила). Воспоминания Хелен Лоуренсон Как я познакомилась с 26-летним Миком Джаггером (и невольно его полюбила). Воспоминания Хелен Лоуренсон

Колонка Хелен Лоуренсон о том, как она встретилась с Миком Джаггером

Esquire
«Третья смена»: как красота мешает женщинам жить «Третья смена»: как красота мешает женщинам жить

Что такое третья смена и как она влияет на жизнь женщин

Cosmopolitan
Пять шагов к деньгам: как правильно искать инвестора для стартапа Пять шагов к деньгам: как правильно искать инвестора для стартапа

К поиску инвестиций необходимо относиться как к отдельному проекту

Forbes
Как я подрабатывала гейшей в Японии Как я подрабатывала гейшей в Японии

Отрывок из книги Марины Чижовой «Дневник современной гейши»

Psychologies
Телесная осознанность: зачем она нужна и как может изменить жизнь к лучшему Телесная осознанность: зачем она нужна и как может изменить жизнь к лучшему

Мысли и желания способны оказывать влияние на здоровье и состояние нашего тела

Cosmopolitan
Мозговой шторм Мозговой шторм

Что такое когнитивный диссонанс?

Maxim
Есть покой и воля Есть покой и воля

Когда Наоми Кэмпбелл хочет собраться с силами, она едет на свою виллу в Кению

Tatler
Потерю веса от низкокалорийной диеты связали с изменением микробиома Потерю веса от низкокалорийной диеты связали с изменением микробиома

Низкокалорийная диета значительно изменила состав кишечного микробиома

N+1
Браки и дети: как сложилась личная жизнь звезд фильма «Любовь в большом городе» Браки и дети: как сложилась личная жизнь звезд фильма «Любовь в большом городе»

Звезды комедии «Любовь в большом городе» связали судьбы с деятелями культуры

Cosmopolitan
Master class в темпе вальса. К 80-летию режиссера Алексея Бородина Master class в темпе вальса. К 80-летию режиссера Алексея Бородина

Эссе-портрет режиссера Алексея Бородина

СНОБ
Верификация интересов: почему встреча Байдена и Путина не породит новый «дух Женевы» Верификация интересов: почему встреча Байдена и Путина не породит новый «дух Женевы»

В логике «лишь бы не было войны» встречаться Байдену и Путину, конечно, стоило

Forbes
Как худели после родов Кейт Миддлтон, Меган Маркл и другие любимицы британцев Как худели после родов Кейт Миддлтон, Меган Маркл и другие любимицы британцев

Монаршие особы педантично относятся к своему рациону, особенно после родов

Cosmopolitan
История учителя из Африки, который боролся с коррупцией и бежал в Россию. Его могут казнить История учителя из Африки, который боролся с коррупцией и бежал в Россию. Его могут казнить

История эритрейца, который боролся с коррупцией в школе

СНОБ
Как сложилась жизнь Рене Зеллвегер и других звезд фильма «Дневник Бриджит Джонс» Как сложилась жизнь Рене Зеллвегер и других звезд фильма «Дневник Бриджит Джонс»

Звезды фильма «Дневник Бриджит Джонс» прошли через ощутимые перемены в жизни

Cosmopolitan
«Нет смысла соревноваться с диктаторами в красноречии» «Нет смысла соревноваться с диктаторами в красноречии»

Мел Брукс о том, почему нужно смеяться

Weekend
Как найти друзей и сохранить с ними отношения на долгие годы Как найти друзей и сохранить с ними отношения на долгие годы

Как открыться другому человеку? Как сохранить его в своей жизни?

Psychologies
«Я знаю, что меня когда-нибудь застрелят»: как Зарифа Гафари стала мэром в консервативной провинции Афганистана «Я знаю, что меня когда-нибудь застрелят»: как Зарифа Гафари стала мэром в консервативной провинции Афганистана

Для Зарифы Гафари угрозы и покушения — часть рутины

Forbes
Яицкие «лихие люди» Яицкие «лихие люди»

Империя вытравливала из народной памяти любые упоминания о казачьих бунтах

Дилетант
Повод для вызова Повод для вызова

Прямая речь актрисы и режиссера Светланы Устиновой

OK!
Открыть в приложении