Причина в фундаментальном недостатке нейросетей

N+1Hi-Tech

«Кислотные» стикеры сделали самолеты невидимыми для нейросетей

Григорий Копиев

Ajaya Adhikari et al. arXiv.org, 2020

Исследователи из Нидерландов и Бельгии предложили заменять традиционный камуфляж для самолетов на аэродромах на небольшие относительно самолета тенты с нанесенными на них состязательными примерами — типом изображений, которые выглядят для человека как абстрактный набор фигур разных цветов, но для нейросети похож на объект определенного класса. Статья опубликована на arXiv.org.

У нейросетей есть фундаментальный недостаток, который потенциально можно использовать для умышленной атаки на них. Наиболее часто его наблюдают на примере алгоритмов распознавания и классификации. При работе с обычными изображениями, например, фотографиями животных, нейросеть адекватно распознает объекты на них. Однако для этой конкретной нейросетевой модели изображение с привычными для нее данными, к примеру, фотографию кота, можно немного изменить, после чего для человека она останется неотличимой от оригинала невооруженным взглядом, но для нейросети будет казаться совсем иной, например, фотографией слона. Учитывая, что нейросетевые алгоритмы применяются во все большем количестве областей, в том числе в беспилотных автомобилях, системах распознавания подозреваемых и даже в военной технике, исследователи считают состязательные примеры серьезной угрозой безопасности.

Состязательные примеры можно условно разделить на два основных класса: изображения с попиксельной заменой, годящиеся для атак в цифровом виде, и «стикеры» — небольшие самостоятельные изображения, в которых человек не может распознать никакой конкретный объект. Второй тип интересен тем, что его можно применять и вне цифровых устройств. К примеру, есть эксперименты, в которых авторы «скрывались» от систем распознавания лиц или обнаружения людей с помощью очков или плаката.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Древнему жителю Китаю ампутировали ногу в наказание Древнему жителю Китаю ампутировали ногу в наказание

Ампутацию считают древнейшей хирургической операцией

N+1
Духовные скрепы Октавиана Духовные скрепы Октавиана

Октавиан Август строил храмы, но сам не мог служить образцом строгой морали

Дилетант
«Осторожно, в небе металлолом» — Что делают со старыми авиалайнерами «Осторожно, в небе металлолом» — Что делают со старыми авиалайнерами

Почему пассажирские авиалайнеры так рано списывают?

ТехИнсайдер
10 самых распространенных фобий 10 самых распространенных фобий

Не стыдно бояться того, чего боится половина мира

Maxim
Немедикаментозное снижение массы обрекло канадца на хроническую боль Немедикаментозное снижение массы обрекло канадца на хроническую боль

Почему может развиться хроническая боль на фоне снижения массы тела

N+1
Стив Джобс Стив Джобс

Первая и единственная биография Стива Джобса

kiozk originals
Жрун вместо кормильца: как выгоды семейной жизни превращаются в потери Жрун вместо кормильца: как выгоды семейной жизни превращаются в потери

Почему жизнь с мужчиной может оказаться далеко не такой удобной, как нам обещают

Cosmopolitan
«Контур жизни: Математик в поиске скрытой геометрии Вселенной» «Контур жизни: Математик в поиске скрытой геометрии Вселенной»

Отрывок из автобиографической книги математика Яу Шинтуна

N+1
Кто разрабатывает российский электроавтомобиль Zetta, производство которого откладывают уже несколько раз Кто разрабатывает российский электроавтомобиль Zetta, производство которого откладывают уже несколько раз

Компания Zetta отложила серийное производство электромобиля City Modul 1

VC.RU
Юрий Колокольников Юрий Колокольников

Он сыграл в главных фильмах года: «Довод» Нолана и «Петровы в гриппе»

Maxim
Таможня отбирает добро: 12 провалов контрабандистов Таможня отбирает добро: 12 провалов контрабандистов

Опытный таможенник даже тюбик зубной пасты открывает с большой осторожностью

Maxim
Антихрупкость Антихрупкость

Как извлечь выгоду из хаоса

kiozk originals
Один «мидл» — хорошо, а два «джуна» лучше. Как сэкономить на найме разработчиков Один «мидл» — хорошо, а два «джуна» лучше. Как сэкономить на найме разработчиков

Работодатели сильно недооценивают плюсы от найма junior-разработчиков

Inc.
Непоколебимый Непоколебимый

Ваш сценарий финансовой свободы

kiozk originals
Одна из девчат Одна из девчат

Вспоминаем главные роли и интересные факты из биографии Надежды Румянцевой

Лиза
Пот и пепел Пот и пепел

Как сегодня смотреть шедевр Алена Рене «Хиросима, моя любовь»

Weekend
8 главных фильмов о моде 8 главных фильмов о моде

Фильмы о фэшн-индустрии и манящей глянцевой жизни

Cosmopolitan
Психология влияния Психология влияния

Как не стать жертвой мастера влияния и убеждения

kiozk originals
Преступление и исправление Преступление и исправление

Тюрьма в Филадельфии считается бабушкой всех современных тюрем

Дилетант
3 схожих симптома пограничного расстройства личности и ПТСР 3 схожих симптома пограничного расстройства личности и ПТСР

Как различить пограничное расстройство личности и посттравматический синдром?

Psychologies
Модель для сборки: в чем заключается феномен LEGO Модель для сборки: в чем заключается феномен LEGO

Почему LEGO лидеры по производству игрушек и кто такие AFOL?

GQ
Первые выходцы из Африки не стали держаться берегов Первые выходцы из Африки не стали держаться берегов

Человеческие следы в пустыне Нефуд оставили самые первые люди из Африки

N+1
Отрывок из книги Дэниела Киза «Войны Миллигана» Отрывок из книги Дэниела Киза «Войны Миллигана»

Отрывок из долгожданного продолжения романа Дэниела Киза о Билли Миллигане

СНОБ
Серый кардинал принципата Серый кардинал принципата

Имя Гая Цильния Мецената стало нарицательным

Дилетант
Невзлетевший продукт подсказал новый рынок: россияне придумали сервис для диабетиков Undermyfork и привлекли $400 тысяч Невзлетевший продукт подсказал новый рынок: россияне придумали сервис для диабетиков Undermyfork и привлекли $400 тысяч

Приложение, которое позволяет узнать уровень сахара в еде

VC.RU
12 самых бредовых фильмов про Россию. В порядке нарастания градуса клюквы 12 самых бредовых фильмов про Россию. В порядке нарастания градуса клюквы

Водка, балалайка и медведи — не самые худшие стереотипы о России в Голливуде

Maxim
Игорь Синельников: «Меланома почти всегда выглядит необычно, второй такой Игорь Синельников: «Меланома почти всегда выглядит необычно, второй такой

Можно ли распознать у себя меланому и куда бежать с подозрительной родинкой

Здоровье
Великая сила вещей: учимся уюту у героев литературных произведений Великая сила вещей: учимся уюту у героев литературных произведений

Как сделать так, чтобы дом стал местом силы и положительных эмоций?

Seasons of life
10 самых скандальных акций Гринпис 10 самых скандальных акций Гринпис

Активисты «Гринпис» известны творческим подходом к протестным флэш-мобам

РБК
Остроумие для чайников: самоучитель, который превратит любого зануду в первоклассного шутника Остроумие для чайников: самоучитель, который превратит любого зануду в первоклассного шутника

Несколько простых приемов, помогающих рассмешить окружающих до коликов

Maxim
Открыть в приложении