Автономный режим боевых роботов может представлять опасность для человечества

ForbesHi-Tech

Бесчеловечное решение: как развитие боевых роботов достигло опасной черты

Олег Шакиров

Фото Mehmet Kaman / Anadolu Agency via Getty Images

В марте 2020 года в Ливии беспилотник без команды от человека выследил силы противника и нанес по ним удар. Инцидент, возможно, с первым известным случаем атаки ударного беспилотника без получения явного приказа от человека показывает опасность распространения автономных систем вооружений, считает консультант ПИР-центра Олег Шакиров.

В ходе военных действий в Ливии разыгрался сюжет из научной фантастики. Беспилотные летательные аппараты автономно, без команды от человека, действуя по заданной программе, выследили силы противника (подразделения, примкнувшие к командующему Ливийской национальной армии Халифе Хафтару) и нанесли по ним удар.

Это произошло еще в марте 2020 года, однако лишь спустя год об инциденте кратко написала группа экспертов ООН по Ливии — более чем в 500-страничном докладе нападению дронов уделено два предложения. В середине мая инцидент был кратко упомянут в статье правозащитной организации Human Rights Watch, затем в Бюллетене ученых-атомщиков и издании New Scientist. Благодаря публикации NY Post история наконец вышла к широкой аудитории.

Автономный режим

Внимание к, казалось бы, давнему и не имевшему видимых последствий событию легко объяснимо. Уже несколько десятилетий военные применяют ударные и разведывательные беспилотники, а также роботы, способные выполнять задачи на суше или в воде. Однако такая техника удаленно управляется человеком — в армии США дроны официально называются не беспилотными, а дистанционно пилотируемыми.

Автономные вооружения, в отличие от управляемых, действуют самостоятельно, без участия оператора. В худшем случае отсутствие человеческого контроля может привести к непредвиденным жертвам — на этой опасности делают акцент активисты, выступающие за запрет боевых роботов. Что именно может пойти не так, предсказать сложно, но вероятные сбои может представить любой, кто сталкивался с ошибками в работе сервисов на основе искусственного интеллекта, таких как интернет-поисковики, чат-боты или приложения для распознавания текста и изображений.

Примером вооружений, которые могут функционировать автономно при переключении в соответствующий режим, эксперты называют автоматическую туррель SGR-A1, разработанную компанией Samsung Techwin и используемую для охраны демилитаризованной зоны на Корейском полуострове. Сам производитель этого не признавал, утверждая, что для поражения целей необходимо участие человека. Автономный режим есть в системе противоракетной обороны «Иджис», размещаемой на американских кораблях, а также на военных базах в Европе. В этих случаях подразумевается, что оператор сознательно примет решение переключить такую систему в автономный режим и обратно.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

10 причин никогда не садиться на диету 10 причин никогда не садиться на диету

Современные диетологи категорически против таких методов снижения веса. Почему?

Psychologies
Прожектор перестройки Прожектор перестройки

Что мешает российской экономике расти?

Forbes
Материнская травма: зачем женщины рушат жизни дочерей? Материнская травма: зачем женщины рушат жизни дочерей?

Почему некоторые матери хотят видеть своих дочерей слабыми и удобными?

Psychologies
Одними губами Одними губами

Поцелуи – важный маркер отношений в паре

Cosmopolitan
Как беспилотники помогают в 3D-моделировании Как беспилотники помогают в 3D-моделировании

Какую пользу принесли беспилотники для промышленности в части 3D-моделирования

Популярная механика
Беременность под запретом и секреты бутерброда: необычные правила Елизаветы II Беременность под запретом и секреты бутерброда: необычные правила Елизаветы II

Елизавета II требует от всех членов своей семьи соблюдения особого протокола

Cosmopolitan
Наращивание волос вредно для здоровья? Наращивание волос вредно для здоровья?

Выбираем самые щадящие способы наращивания волос

Cosmopolitan
Средневековая мода на длинноносые башмаки стала причиной бурсита Средневековая мода на длинноносые башмаки стала причиной бурсита

Мода на пулены привела к проблемам со ступнями у средневековых людей

N+1
Елизавета Туктамышева Елизавета Туктамышева

Елизавета Туктамышева готовится к главному событию — зимним Олимпийским играм

Собака.ru
5 отличных моделей мобильных кондиционеров, которые спасут вас от жары 5 отличных моделей мобильных кондиционеров, которые спасут вас от жары

Обзор мобильных кондиционеров, которые могут и охладить, и согреть дом

CHIP
Ярослав Андреев Ярослав Андреев

Ярослав Андреев открыл первый TikTok House

Собака.ru
«Я лысею»: реальная история потери волос «Я лысею»: реальная история потери волос

Уже несколько лет Елена делает все, чтобы ни один волос не упал с ее головы

Cosmopolitan
Ринопластика — личный опыт. Все о том, как заполучить новый нос Ринопластика — личный опыт. Все о том, как заполучить новый нос

История читательницы: как я изменила форму носа

Cosmopolitan
Переживают за всё и за всех! 5 самых тревожных знаков зодиака Переживают за всё и за всех! 5 самых тревожных знаков зодиака

Самые чувствительные знаки зодиака

Cosmopolitan
Как выглядят жены звездных стендаперов: Абрамова, Щербакова, Романова и других Как выглядят жены звездных стендаперов: Абрамова, Щербакова, Романова и других

Как выглядят супруги популярных российских стендаперов

Cosmopolitan
«Нас не испугал диагноз»: история мамы детей с особенностями развития «Нас не испугал диагноз»: история мамы детей с особенностями развития

История семьи, которая воспитывает детей с особенностями развития

Cosmopolitan
Инвестируй в гардероб! Как разбогатеть, вкладывая деньги в одежду и украшения Инвестируй в гардероб! Как разбогатеть, вкладывая деньги в одежду и украшения

Помогут ли дорогая сумочка или картина модного художника заработать в будущем?

Cosmopolitan
Торговцы необходимым: как «Почта России» попала в список крупнейших ретейлеров Торговцы необходимым: как «Почта России» попала в список крупнейших ретейлеров

«Почта России» стала одним из крупнейших ретейлеров страны

Forbes
Можно ли найти жизнь на Венере и как это будет сделано Можно ли найти жизнь на Венере и как это будет сделано

Комплекс исследований, способный раскрыть историю Венеры

Популярная механика
Почему ты не хочешь ребенка? Почему ты не хочешь ребенка?

Первый ребенок — это последняя кукла, но что, если куклы тебе не нравились?

Cosmopolitan
IQ-тест — ничто, когнитивная гибкость — все IQ-тест — ничто, когнитивная гибкость — все

Креативность, хорошее воображение, чувство эмпатии куда важнее, чем IQ

Популярная механика
«День, когда я перестала обижаться» «День, когда я перестала обижаться»

Наша читательница уверена: отказавшись от обид, она обрела свободу

Psychologies
По имени солнце По имени солнце

Не так страшен загар, как отсутствие защиты кожи от солнца

Лиза
Как русскоязычная поп-музыка стала думать сердцем и обрела тысячу лиц Как русскоязычная поп-музыка стала думать сердцем и обрела тысячу лиц

Почему неопоп — это наиболее искренняя форма поп-музыки и причем здесь соцсети

РБК
Мальчики учат нас краситься: 10 самых популярных бьюти-блогеров парней Мальчики учат нас краситься: 10 самых популярных бьюти-блогеров парней

Лучшие бьюти-блогеры - мужчины, овладевшие мастерством визажа в идеале

Cosmopolitan
«Слитая переписка стала ударом для Оли»: отрывок из книги пиар-агента Бузовой «Слитая переписка стала ударом для Оли»: отрывок из книги пиар-агента Бузовой

Отрывок из книги Антона Богославского «Больше чем пиар. Как создать звезду»

Cosmopolitan
Правда ли, что 150 лет — предел продолжительности жизни Правда ли, что 150 лет — предел продолжительности жизни

Есть ли у нашей жизни фундаментальный биологический предел?

Популярная механика
«Это было странное время»: как Джон Макафи создал антивирусную компанию, продал ее Intel и умер в тюрьме «Это было странное время»: как Джон Макафи создал антивирусную компанию, продал ее Intel и умер в тюрьме

Как жил Джон Макафи и что происходит с основанным им бизнесом?

Forbes
Устойчивое развитие и экология в металлургии: обзор деятельности российских компаний Устойчивое развитие и экология в металлургии: обзор деятельности российских компаний

Как металлургам удается включаться в программы устойчивого развития

Forbes
Что такое «легкая»‎ и «тяжелая»‎ вода Что такое «легкая»‎ и «тяжелая»‎ вода

Как маркетологи продают нам целебную «легкую» воду и пугают страшной «тяжелой»

Популярная механика
Открыть в приложении