Автономный режим боевых роботов может представлять опасность для человечества

ForbesHi-Tech

Бесчеловечное решение: как развитие боевых роботов достигло опасной черты

Олег Шакиров

Фото Mehmet Kaman / Anadolu Agency via Getty Images

В марте 2020 года в Ливии беспилотник без команды от человека выследил силы противника и нанес по ним удар. Инцидент, возможно, с первым известным случаем атаки ударного беспилотника без получения явного приказа от человека показывает опасность распространения автономных систем вооружений, считает консультант ПИР-центра Олег Шакиров.

В ходе военных действий в Ливии разыгрался сюжет из научной фантастики. Беспилотные летательные аппараты автономно, без команды от человека, действуя по заданной программе, выследили силы противника (подразделения, примкнувшие к командующему Ливийской национальной армии Халифе Хафтару) и нанесли по ним удар.

Это произошло еще в марте 2020 года, однако лишь спустя год об инциденте кратко написала группа экспертов ООН по Ливии — более чем в 500-страничном докладе нападению дронов уделено два предложения. В середине мая инцидент был кратко упомянут в статье правозащитной организации Human Rights Watch, затем в Бюллетене ученых-атомщиков и издании New Scientist. Благодаря публикации NY Post история наконец вышла к широкой аудитории.

Автономный режим

Внимание к, казалось бы, давнему и не имевшему видимых последствий событию легко объяснимо. Уже несколько десятилетий военные применяют ударные и разведывательные беспилотники, а также роботы, способные выполнять задачи на суше или в воде. Однако такая техника удаленно управляется человеком — в армии США дроны официально называются не беспилотными, а дистанционно пилотируемыми.

Автономные вооружения, в отличие от управляемых, действуют самостоятельно, без участия оператора. В худшем случае отсутствие человеческого контроля может привести к непредвиденным жертвам — на этой опасности делают акцент активисты, выступающие за запрет боевых роботов. Что именно может пойти не так, предсказать сложно, но вероятные сбои может представить любой, кто сталкивался с ошибками в работе сервисов на основе искусственного интеллекта, таких как интернет-поисковики, чат-боты или приложения для распознавания текста и изображений.

Примером вооружений, которые могут функционировать автономно при переключении в соответствующий режим, эксперты называют автоматическую туррель SGR-A1, разработанную компанией Samsung Techwin и используемую для охраны демилитаризованной зоны на Корейском полуострове. Сам производитель этого не признавал, утверждая, что для поражения целей необходимо участие человека. Автономный режим есть в системе противоракетной обороны «Иджис», размещаемой на американских кораблях, а также на военных базах в Европе. В этих случаях подразумевается, что оператор сознательно примет решение переключить такую систему в автономный режим и обратно.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Не уступить соблазну Не уступить соблазну

Существуют научно обоснованные способы борьбы с искушениями

Худеем правильно
Советская запрещенка: великие фильмы, не прошедшие цензуру Советская запрещенка: великие фильмы, не прошедшие цензуру

Советские фильмы, которые попали в опалу и не были показаны широкому зрителю

Cosmopolitan
Мире — мир Мире — мир

Алексей Миранчук примерил на себя стиль итальянских фанатов панинаро

Esquire
Очаровательные сорванцы! Забавные кадры Елизаветы II c королевскими детьми Очаровательные сорванцы! Забавные кадры Елизаветы II c королевскими детьми

Елизавета II обожает находиться в компании внуков и правнуков

Cosmopolitan
Барак Обама и Опра Уинфри рекомендуют. Джеймс Макбрайд: «Дьякон Кинг Конг» Барак Обама и Опра Уинфри рекомендуют. Джеймс Макбрайд: «Дьякон Кинг Конг»

Глава из книги «Дьякон Кинг Конг» Джеймса Макбрайда

СНОБ
Как выбрать загородный дом: для себя и для инвестиций Как выбрать загородный дом: для себя и для инвестиций

Как выбрать загородную недвижимость и на что обратить внимание при выборе дома?

СНОБ
Как выглядят жены звезд фильма «Союз спасения»: Петренко, Матвеева и других Как выглядят жены звезд фильма «Союз спасения»: Петренко, Матвеева и других

Актеры фильма о декабристах «Союз спасения» в жизни обрели семейное счастье

Cosmopolitan
Сколько детей должно быть в семье Сколько детей должно быть в семье

Сколько нужно родить детей для счастья

Cosmopolitan
12 популярных фильмов, которые украли сюжет у других фильмов 12 популярных фильмов, которые украли сюжет у других фильмов

Фильмы со скопированными сюжетами, ставшие популярнее первоисточников

Maxim
Победительница шоу «Ты топ-модель»:«У нас была честная конкуренция, без козней» Победительница шоу «Ты топ-модель»:«У нас была честная конкуренция, без козней»

Победительница шоу «Ты топ-модель на ТНТ» Тина Тоева — о проекте и планах

Cosmopolitan
Умберто Эко Умберто Эко

Умберто Эко глазами Дмитрия Быкова

Дилетант
«Ёбидоёби» и «Страшный сон вегана». Как живется адептам хулиганского нейминга «Ёбидоёби» и «Страшный сон вегана». Как живется адептам хулиганского нейминга

Почему компании выбирают нестандартный нейминг и как реагируют клиенты?

Inc.
Могут ли секс-игрушки заменить партнера? Могут ли секс-игрушки заменить партнера?

Отношение общества к культуре секса меняется

Psychologies
Как сложились судьбы групп «Фабрики звезд»: «Корни», «Челси», «Тутси» и другие Как сложились судьбы групп «Фабрики звезд»: «Корни», «Челси», «Тутси» и другие

Как сейчас живут группы «Фабрики звезд»?

Cosmopolitan
Стена и голос: как и почему модные бренды социально высказываются через уличное искусство Стена и голос: как и почему модные бренды социально высказываются через уличное искусство

Зачем модным брендам уличное искусство?

Esquire
Марта Кетро о том, почему мы изменяем Марта Кетро о том, почему мы изменяем

Что же заставляет нас искать приключений с другими людьми?

Cosmopolitan
Триумф или ошибка: как поиски воды на Марсе привели к неожиданному открытию Триумф или ошибка: как поиски воды на Марсе привели к неожиданному открытию

Ученые сомневаются, что на Марсе действительно существуют озера

Forbes
Облачные обещания: как любитель игр из Перми продал Mail.ru Group стартап и «оставил не у дел» своих инвесторов Облачные обещания: как любитель игр из Перми продал Mail.ru Group стартап и «оставил не у дел» своих инвесторов

Как небольшой стартап вышел в прибыль сквозь ошибки и что грозит его основателям

Forbes
Какое мужское качество женщины считают наиболее сексуальным? Какое мужское качество женщины считают наиболее сексуальным?

Зря ли ты качал мышцы, дарил подарки, спешил к ней на помощь чинить кран

Maxim
А я что могу? А я что могу?

За новым поколением онлайн-марафонцев сегодня следят сотни тысяч девушек

Harper's Bazaar
Химики превратили биоразлагаемые вилки в пену Химики превратили биоразлагаемые вилки в пену

Вилки из биопластика превратили в пену с помощью углекислого газа

N+1
Любимые женщины и мужчины звезд сериала «Доктор Хаус»: Лори, Уайлд и других Любимые женщины и мужчины звезд сериала «Доктор Хаус»: Лори, Уайлд и других

Как сложилась личная жизнь актеров сериала «Доктор Хаус»

Cosmopolitan
Высокая температура с похмелья: возможные причины и способы облегчить состояние Высокая температура с похмелья: возможные причины и способы облегчить состояние

Что делать, если похмелье сопровождается температурой, и как прийти в себя

Playboy
Малая родина Малая родина

Одним июльским днем в Тверской области выпал снег

Вокруг света
11 лучших европейских сериалов Netflix 11 лучших европейских сериалов Netflix

Которые доказывают, что потенциальный хит можно снять не только в Голливуде.

GQ
Obladaet рассуждает о творчестве, бюджетах и конфликтах с рэперами Obladaet рассуждает о творчестве, бюджетах и конфликтах с рэперами

Obladaet — о музыкальной журналистике и визуале своего творчества

GQ
Красотки в тени: как выглядят сестры Николь Кидман, Пенелопы Крус и других звезд Красотки в тени: как выглядят сестры Николь Кидман, Пенелопы Крус и других звезд

Сёстры знаменитых красоток часто остаются в тени своих звездных родственниц

Cosmopolitan
Следы жизнедеятельности на месте южноафриканских поселений изучили по химическим маркерам Следы жизнедеятельности на месте южноафриканских поселений изучили по химическим маркерам

Ученые изучили место поселения железного века Соке в Ботсване

N+1
Куда деть ребенка летом. 3 совета от шпионов ЦРУ Куда деть ребенка летом. 3 совета от шпионов ЦРУ

Разбираться со своим ребенком на каникулах тебе придется самому. Например, так

Maxim
Почему быстро перегорают светодиодные лампы? Почему быстро перегорают светодиодные лампы?

Почему некоторые светодиодные лампы быстро выходят из строя

CHIP
Открыть в приложении