Причина в фундаментальном недостатке нейросетей

N+1Hi-Tech

«Кислотные» стикеры сделали самолеты невидимыми для нейросетей

Григорий Копиев

Ajaya Adhikari et al. arXiv.org, 2020

Исследователи из Нидерландов и Бельгии предложили заменять традиционный камуфляж для самолетов на аэродромах на небольшие относительно самолета тенты с нанесенными на них состязательными примерами — типом изображений, которые выглядят для человека как абстрактный набор фигур разных цветов, но для нейросети похож на объект определенного класса. Статья опубликована на arXiv.org.

У нейросетей есть фундаментальный недостаток, который потенциально можно использовать для умышленной атаки на них. Наиболее часто его наблюдают на примере алгоритмов распознавания и классификации. При работе с обычными изображениями, например, фотографиями животных, нейросеть адекватно распознает объекты на них. Однако для этой конкретной нейросетевой модели изображение с привычными для нее данными, к примеру, фотографию кота, можно немного изменить, после чего для человека она останется неотличимой от оригинала невооруженным взглядом, но для нейросети будет казаться совсем иной, например, фотографией слона. Учитывая, что нейросетевые алгоритмы применяются во все большем количестве областей, в том числе в беспилотных автомобилях, системах распознавания подозреваемых и даже в военной технике, исследователи считают состязательные примеры серьезной угрозой безопасности.

Состязательные примеры можно условно разделить на два основных класса: изображения с попиксельной заменой, годящиеся для атак в цифровом виде, и «стикеры» — небольшие самостоятельные изображения, в которых человек не может распознать никакой конкретный объект. Второй тип интересен тем, что его можно применять и вне цифровых устройств. К примеру, есть эксперименты, в которых авторы «скрывались» от систем распознавания лиц или обнаружения людей с помощью очков или плаката.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Начало неолита на северо-западе Южной Азии сдвинули примерно на три тысячи лет Начало неолита на северо-западе Южной Азии сдвинули примерно на три тысячи лет

Почему ученые пересмотрели хронологию поселения Мехргарх?

N+1
Живая лаборатория Европы. Как устроен город, у которого есть план до 2070 года Живая лаборатория Европы. Как устроен город, у которого есть план до 2070 года

Как Копенгагену удается строить идеальную экосистему

Forbes
Ланч-боксы с подогревом: как они работают и стоит ли брать Ланч-боксы с подогревом: как они работают и стоит ли брать

Как работает ланч-бокс с подогревом и стоит ли вообще его покупать?

CHIP
Психологический портрет Психологический портрет

Как стресс влияет на кожу и почему в XXI веке от воспалений лечат психотерапевты

Glamour
10 вещей, которые нужно успеть сделать для пожилых родителей 10 вещей, которые нужно успеть сделать для пожилых родителей

Список бесценных вещей, которые вы можете сделать для ваших родителей

Maxim
Арт–терапия Арт–терапия

Креативный интерьер вне правил

SALON-Interior
Почему мы все заняты бесполезной работой Почему мы все заняты бесполезной работой

Технический прогресс сильнее привязал людей к бессмысленной работе

Esquire
Глотаемую капсулу с электростимулятором испытали в свином желудке Глотаемую капсулу с электростимулятором испытали в свином желудке

Глотаемая капсула внедряет электроды и помогает мыщцам желудка сокращаться

N+1
Редкие львинохвостые макаки приспособились жить рядом с людьми Редкие львинохвостые макаки приспособились жить рядом с людьми

Макаки научились находить пищу в человеческих поселениях и стали больше отдыхать

N+1
Юпитер оказался не помехой путешествию космической пыли Юпитер оказался не помехой путешествию космической пыли

Астероиды из внешней Солнечной системы содержат зерна пыли

N+1
Растянется? Покроется катышками? Как купить качественный свитер не на один сезон Растянется? Покроется катышками? Как купить качественный свитер не на один сезон

Как купить действительно качественный, теплый и приятный к телу свитер

Cosmopolitan
9 актеров, которые изменились до неузнаваемости в предстоящих фильмах 9 актеров, которые изменились до неузнаваемости в предстоящих фильмах

Загримировали так, что не то что родная мать, даже родной продюсер не узнает!

Maxim
Как изменится Небесный град Как изменится Небесный град

Когда мы говорим, что интернет похож на город, мы что имеем в виду?

Weekend
История Бога История Бога

Четыре тысячи лет исканий в иудаизме, христианстве и исламе

kiozk originals
«Третий день» – один из лучших (и самых кровавых) сериалов этого года «Третий день» – один из лучших (и самых кровавых) сериалов этого года

Джуд Лоу в драматическом мини-сериале от HBO «Третий день»

GQ
Марта Кетро о том, как справляться с чужими страхами, которые тебе навязывают Марта Кетро о том, как справляться с чужими страхами, которые тебе навязывают

Что делать, если тебя запугивают окружающие?

Cosmopolitan
«Вар! Верни легионы!» «Вар! Верни легионы!»

Одно из самых унизительных поражений римской армии

Дилетант
Основательница компании «Cозвездие PI» — о лидерстве на бьюти-рынке Основательница компании «Cозвездие PI» — о лидерстве на бьюти-рынке

Как за пять лет сделать из стартапа успешный бьюти-бизнес

РБК
Рискуя собственной шкурой Рискуя собственной шкурой

Скрытая асимметрия повседневной жизни

kiozk originals
Мама в моей голове: как твои отношения с матерью влияют на твою жизнь Мама в моей голове: как твои отношения с матерью влияют на твою жизнь

Как материнские установки звучат в нашей голове и к чему они могут привести

Cosmopolitan
Ем пирожные, чтобы себя наказать: что такое самонасилие едой Ем пирожные, чтобы себя наказать: что такое самонасилие едой

Еда как радость, наказание, внимание и любовь

Cosmopolitan
Зачем нам замуж? Алина Фаркаш считает, что брак женщине не так уж и нужен Зачем нам замуж? Алина Фаркаш считает, что брак женщине не так уж и нужен

Зачем выходить замуж в России – мне сложно понять

Cosmopolitan
Женское здоровье: культура посещения гинеколога Женское здоровье: культура посещения гинеколога

Как начать заботиться о своем здоровье и регулярно посещать «женского врача»

Psychologies
Тренируем грацию: 3 элемента pole dance для Тренируем грацию: 3 элемента pole dance для

Танцы на пилоне заменяют не только спортзал, но и – отчасти – походы к психологу

Cosmopolitan
Самоубийство дочери и зависть к Аджани: вся правда о Джейн Биркин в ее дневнике Самоубийство дочери и зависть к Аджани: вся правда о Джейн Биркин в ее дневнике

В дневниках Джейн не играет и не пытается быть лучше, чем она есть

Cosmopolitan
Тельняшки, бикини и мини: как Брижит Бардо задала стиль Французской Ривьеры Тельняшки, бикини и мини: как Брижит Бардо задала стиль Французской Ривьеры

Топ стильных образов главной кинозвезды Франции

Esquire
Как стресс и тревоги влияют на мир моды Как стресс и тревоги влияют на мир моды

В 2020 году индустрия моды пережила самые большие потрясения в своей истории

GQ
Конец сказки Конец сказки

Чем может обернуться замужество

Лиза
Художник фаюмского портрета состарил умершего мальчика Художник фаюмского портрета состарил умершего мальчика

Фаюмские портреты – часть погребального ритуала в Египте римского периода

N+1
Как участнику рейтинга Forbes и его коллегам удалось впервые «поймать» неуловимую черную дыру Как участнику рейтинга Forbes и его коллегам удалось впервые «поймать» неуловимую черную дыру

Ученые подтвердили существование неуловимого прежде вида черных дыр

Forbes
Открыть в приложении