Автономный режим боевых роботов может представлять опасность для человечества

ForbesHi-Tech

Бесчеловечное решение: как развитие боевых роботов достигло опасной черты

Олег Шакиров

Фото Mehmet Kaman / Anadolu Agency via Getty Images

В марте 2020 года в Ливии беспилотник без команды от человека выследил силы противника и нанес по ним удар. Инцидент, возможно, с первым известным случаем атаки ударного беспилотника без получения явного приказа от человека показывает опасность распространения автономных систем вооружений, считает консультант ПИР-центра Олег Шакиров.

В ходе военных действий в Ливии разыгрался сюжет из научной фантастики. Беспилотные летательные аппараты автономно, без команды от человека, действуя по заданной программе, выследили силы противника (подразделения, примкнувшие к командующему Ливийской национальной армии Халифе Хафтару) и нанесли по ним удар.

Это произошло еще в марте 2020 года, однако лишь спустя год об инциденте кратко написала группа экспертов ООН по Ливии — более чем в 500-страничном докладе нападению дронов уделено два предложения. В середине мая инцидент был кратко упомянут в статье правозащитной организации Human Rights Watch, затем в Бюллетене ученых-атомщиков и издании New Scientist. Благодаря публикации NY Post история наконец вышла к широкой аудитории.

Автономный режим

Внимание к, казалось бы, давнему и не имевшему видимых последствий событию легко объяснимо. Уже несколько десятилетий военные применяют ударные и разведывательные беспилотники, а также роботы, способные выполнять задачи на суше или в воде. Однако такая техника удаленно управляется человеком — в армии США дроны официально называются не беспилотными, а дистанционно пилотируемыми.

Автономные вооружения, в отличие от управляемых, действуют самостоятельно, без участия оператора. В худшем случае отсутствие человеческого контроля может привести к непредвиденным жертвам — на этой опасности делают акцент активисты, выступающие за запрет боевых роботов. Что именно может пойти не так, предсказать сложно, но вероятные сбои может представить любой, кто сталкивался с ошибками в работе сервисов на основе искусственного интеллекта, таких как интернет-поисковики, чат-боты или приложения для распознавания текста и изображений.

Примером вооружений, которые могут функционировать автономно при переключении в соответствующий режим, эксперты называют автоматическую туррель SGR-A1, разработанную компанией Samsung Techwin и используемую для охраны демилитаризованной зоны на Корейском полуострове. Сам производитель этого не признавал, утверждая, что для поражения целей необходимо участие человека. Автономный режим есть в системе противоракетной обороны «Иджис», размещаемой на американских кораблях, а также на военных базах в Европе. В этих случаях подразумевается, что оператор сознательно примет решение переключить такую систему в автономный режим и обратно.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

15 кухонных гаджетов, которые мы используем неправильно 15 кухонных гаджетов, которые мы используем неправильно

Этими вещами мы пользуемся неправильно, даже не подозревая об этом

Популярная механика
Болото как русская святыня Болото как русская святыня

Григорий Ревзин о том, как Александр Бродский создал идеальный русский парк

Weekend
4 шага, чтобы наладить диалог со своей Тенью 4 шага, чтобы наладить диалог со своей Тенью

Что общего между перфекционизмом, заниженной самооценкой и трудной судьбой?

Psychologies
10 лучших дорам 10 лучших дорам

Дорамы, которые помогут справиться с тоской по мексиканским телесериалам

Cosmopolitan
День отца: 5 самцов из мира дикой природы, которые посвятили себя родительству День отца: 5 самцов из мира дикой природы, которые посвятили себя родительству

Самые заботливые отцы мира дикой природы

Популярная механика
Время Лебедя. Летнее небо Время Лебедя. Летнее небо

С наступлением лета широко распахнуло в вышине свои крылья созвездие Лебедя

Наука и жизнь
Дружба с женщиной без секса? Не только приятна, но и возможна! Дружба с женщиной без секса? Не только приятна, но и возможна!

Точка в затянувшейся дискуссии «Может ли мальчик дружить с девочкой»

Maxim
Наша задача — затормозить уменьшение плодородия Наша задача — затормозить уменьшение плодородия

Академик Алексей Завалин о сложностях агропрома и о состоянии чернозема

Наука
Победительница шоу «Ты топ-модель»:«У нас была честная конкуренция, без козней» Победительница шоу «Ты топ-модель»:«У нас была честная конкуренция, без козней»

Победительница шоу «Ты топ-модель на ТНТ» Тина Тоева — о проекте и планах

Cosmopolitan
13 лучших песен о Сатане 13 лучших песен о Сатане

Люди почему-то думают, что о Дьяволе поют только металлисты

Maxim
Как не допустить солнечный удар. Советы врача Как не допустить солнечный удар. Советы врача

Важно понимать разницу между тепловым и солнечным ударом

РБК
10 самых труднодоступных городов Земли 10 самых труднодоступных городов Земли

Жители этих городов не понаслышке знают, что такое «у черта на рогах»

Maxim
«Токсичное» позитивное мышление: как выбраться из ловушки ложного оптимизма «Токсичное» позитивное мышление: как выбраться из ловушки ложного оптимизма

Еще недавно позитивное мышление преподносилось как «волшебная таблетка»

Psychologies
Бедность по наследству: как сломать семейный сценарий Бедность по наследству: как сломать семейный сценарий

Почему кто-то становится миллионером, а другие вынуждены жить на копейки?

Psychologies
15 привычек продуктивных людей 15 привычек продуктивных людей

Привычки, которые помогут всегда оставаться продуктивными и активными

Psychologies
От хулиганок до примерных жен: личные драмы принцесс Евгении и Беатрис От хулиганок до примерных жен: личные драмы принцесс Евгении и Беатрис

В юности королевским сестрам пришлось пройти через тяжелые расставания

Cosmopolitan
Некоторые любят погорячее Некоторые любят погорячее

Герои российских фильмов, спектаклей и книг не вылезают из постели. А мы сами?

Vogue
Улетные каникулы космических туристов Улетные каникулы космических туристов

Теперь о путешествии на орбиту можно не только мечтать

Playboy
Как правильно целоваться? Как правильно целоваться?

Чтобы довольными остались все участники процесса

GQ
Вот почему у древнеегипетских статуй отбитые носы Вот почему у древнеегипетских статуй отбитые носы

Носы отсутствуют у большинства из сфинксов, и это неспроста

Maxim
По €100 за килограмм: из чего и как на самом деле создаются духи По €100 за килограмм: из чего и как на самом деле создаются духи

Главы из книги Луки Турина «Секрет аромата: от молекулы до духов»

Forbes
Серж Танкян Серж Танкян

Правила жизни музыканта Сержа Танкяна

Esquire
4 самые частые ошибки при подъеме веса, названные экспертом 4 самые частые ошибки при подъеме веса, названные экспертом

Ошибки при подъеме веса, которые могут привести к травмам

Playboy
«Я жесток из-за ее хамства!»: директора «Ленкома» шокировала критика Поргиной «Я жесток из-за ее хамства!»: директора «Ленкома» шокировала критика Поргиной

Марк Варшавер ответил на негативные высказывания вдовы Николая Караченцова

Cosmopolitan
Как русскоязычная поп-музыка стала думать сердцем и обрела тысячу лиц Как русскоязычная поп-музыка стала думать сердцем и обрела тысячу лиц

Почему неопоп — это наиболее искренняя форма поп-музыки и причем здесь соцсети

РБК
Как выбрать загородный дом: для себя и для инвестиций Как выбрать загородный дом: для себя и для инвестиций

Как выбрать загородную недвижимость и на что обратить внимание при выборе дома?

СНОБ
Основательница клиники эстетической медицины — о дистанции с пациентами Основательница клиники эстетической медицины — о дистанции с пациентами

Врач-косметолог о том, почему нельзя работать на скорость и о доверии пациентов

РБК
Следы жизнедеятельности на месте южноафриканских поселений изучили по химическим маркерам Следы жизнедеятельности на месте южноафриканских поселений изучили по химическим маркерам

Ученые изучили место поселения железного века Соке в Ботсване

N+1
4 правила «Я-сообщений» 4 правила «Я-сообщений»

Что это такое «Я-сообщения»?

Psychologies
Разводы, аборт и крах карьеры: драмы в жизни звезды дискотек 80-х Си Си Кетч Разводы, аборт и крах карьеры: драмы в жизни звезды дискотек 80-х Си Си Кетч

Сложная история певицы Каролины Мюллер, известной как Си Си Кетч

Cosmopolitan
Открыть в приложении