Причина в фундаментальном недостатке нейросетей

N+1Hi-Tech

«Кислотные» стикеры сделали самолеты невидимыми для нейросетей

Григорий Копиев

Ajaya Adhikari et al. arXiv.org, 2020

Исследователи из Нидерландов и Бельгии предложили заменять традиционный камуфляж для самолетов на аэродромах на небольшие относительно самолета тенты с нанесенными на них состязательными примерами — типом изображений, которые выглядят для человека как абстрактный набор фигур разных цветов, но для нейросети похож на объект определенного класса. Статья опубликована на arXiv.org.

У нейросетей есть фундаментальный недостаток, который потенциально можно использовать для умышленной атаки на них. Наиболее часто его наблюдают на примере алгоритмов распознавания и классификации. При работе с обычными изображениями, например, фотографиями животных, нейросеть адекватно распознает объекты на них. Однако для этой конкретной нейросетевой модели изображение с привычными для нее данными, к примеру, фотографию кота, можно немного изменить, после чего для человека она останется неотличимой от оригинала невооруженным взглядом, но для нейросети будет казаться совсем иной, например, фотографией слона. Учитывая, что нейросетевые алгоритмы применяются во все большем количестве областей, в том числе в беспилотных автомобилях, системах распознавания подозреваемых и даже в военной технике, исследователи считают состязательные примеры серьезной угрозой безопасности.

Состязательные примеры можно условно разделить на два основных класса: изображения с попиксельной заменой, годящиеся для атак в цифровом виде, и «стикеры» — небольшие самостоятельные изображения, в которых человек не может распознать никакой конкретный объект. Второй тип интересен тем, что его можно применять и вне цифровых устройств. К примеру, есть эксперименты, в которых авторы «скрывались» от систем распознавания лиц или обнаружения людей с помощью очков или плаката.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Мухи-журчалки начали точно подражать осам уже 33 миллиона лет назад Мухи-журчалки начали точно подражать осам уже 33 миллиона лет назад

Ученые обнаружили ископаемую муху-журчалку, которая подражала окраске ос

N+1
Пять языков любви Пять языков любви

Секрет прочных отношений

kiozk originals
Ученые превратили тараканов в киборгов, наделив их способностями для спасательных операций Ученые превратили тараканов в киборгов, наделив их способностями для спасательных операций

Тараканы-киборги — идеальные помощники для спасательных операций

Inc.
Правила жизни двоечников Правила жизни двоечников

Двоечники нужны, чтобы отличникам жилось лучше и учителя не путались

Esquire
«Мамонты следующие»: Colossal Biosciences вернула к жизни вымерших 10 тысяч лет назад лютоволков «Мамонты следующие»: Colossal Biosciences вернула к жизни вымерших 10 тысяч лет назад лютоволков

Как ученым Colossal Biosciences удалось произвести на свет щенков лютоволка

VC.RU
10 захватывающих фактов про чёрную дыру 10 захватывающих фактов про чёрную дыру

После прочтения этого материала ты навсегда перестанешь их бояться

Maxim
8 фильмов об Испании 8 фильмов об Испании

Лучшие картины о фламенко, корриде, испанской истории, искусстве и не только

GQ
«Не замужем» не значит одна, «одинока» не значит несчастна «Не замужем» не значит одна, «одинока» не значит несчастна

У моих знакомых проблема: я не замужем

Cosmopolitan
Занимательная критика Занимательная критика

Остатки древней цивилизации: встреча с настоящими минойцами на острове Крит

Вокруг света
Доноры нашлись! Расторгуев, Гомес и другие звезды, которым пересадили органы Доноры нашлись! Расторгуев, Гомес и другие звезды, которым пересадили органы

Селебрити, которым пришлось пережить трансплантацию, чтобы вылечиться

Cosmopolitan
Бразиллионеры Бразиллионеры

Богатство, власть, упадок и надежда в одной южно-американской стране

kiozk originals
Режиссер Келли Райхардт — о своем новом фильме «Первая корова», внутренней кухне кино и о том, как снимать кино об Америке начала XIX века Режиссер Келли Райхардт — о своем новом фильме «Первая корова», внутренней кухне кино и о том, как снимать кино об Америке начала XIX века

Новая работа режиссера — экранизация романа Джонатана Рэймонда

Esquire
Вакцинация: как работают прививки и почему их надо делать Вакцинация: как работают прививки и почему их надо делать

Прививки — большое зло или наше спасение?

Популярная механика
Движение вверх Движение вверх

Александр Молочников и его география

Vogue
Прыжок в карьеру Прыжок в карьеру

Cергей Гилев о том, каково это – в 40 лет проснуться востребованным актером

Esquire
Фаршированный перец Фаршированный перец

Сильные стороны голубца компенсируются слабостями. Проверим?

Weekend
9 малоизвестных фактов о средневековых замках 9 малоизвестных фактов о средневековых замках

9 фактов, которые избавят вас от иллюзий на счет жизни в средневековых замках

Популярная механика
«Секс-игрушка из Парижа»: вибратор стал секретным талисманом принцессы Дианы «Секс-игрушка из Парижа»: вибратор стал секретным талисманом принцессы Дианы

Принцесса Диана брала в заграничные поездки гаджет из секс-шопа

Cosmopolitan
Мы из будущего: лучшие фильмы о судьбе человечества Мы из будущего: лучшие фильмы о судьбе человечества

Лучшие фильмы о том, как режиссеры и сценаристы представляли себе будущее

Популярная механика
Какого цвета ваш парашют? Какого цвета ваш парашют?

Практическое руководство для тех, кто ищет работу или хочет ее сменить

kiozk originals
Toyota RAV4: за что не надо переплачивать Toyota RAV4: за что не надо переплачивать

2 литра как золотой стандарт

Maxim
Доказано телом Доказано телом

Завидная фигура Дарьи Коноваловой — результат закалки и заботы косметологов

Tatler
Одна вокруг света: как живут женщины племени падаунг Одна вокруг света: как живут женщины племени падаунг

86-я серия о кругосветном путешествии москвички Ирины Сидоренко и ее собаки

Forbes
Любимая дочь Григория Распутина: ссылка, цирк и кабаре Любимая дочь Григория Распутина: ссылка, цирк и кабаре

Жизнь Марии Распутиной ничуть не менее интересна, чем судьба ее знаменитого отца

Cosmopolitan
Солнце — в бутылку! Солнце — в бутылку!

Как люди пытаются освоить термоядерный синтез

N+1
Тарантино, Ди Каприо, Уилл Смит и Клинт Иствуд вспоминают школу Тарантино, Ди Каприо, Уилл Смит и Клинт Иствуд вспоминают школу

Герои обложек Esquire делятся школьными воспоминаниями

Esquire
«Фактически сжигание денег»: почему богатейший человек Европы заморозил сделку по покупке Tiffany на самом деле «Фактически сжигание денег»: почему богатейший человек Европы заморозил сделку по покупке Tiffany на самом деле

Как Tiffany стараются избежать сорвать сделку с Бернаром Арно

Forbes
Не компьютерной графикой единой: как делают спецэффекты в кино Не компьютерной графикой единой: как делают спецэффекты в кино

Без спецэффектов сегодня не обходится ни один блокбастер

Популярная механика
Как быть, если твой ребенок не такой, как все Как быть, если твой ребенок не такой, как все

Некоторые воплощенные в жизнь фантазии могут выйти боком

СНОБ
Что там после смерти: как сериал ОА ищет ответы на главные вопросы мироздания Что там после смерти: как сериал ОА ищет ответы на главные вопросы мироздания

Сериал «ОА» замахнулся на тему загробной жизни — и смог с ней справиться

Esquire
Открыть в приложении