Причина в фундаментальном недостатке нейросетей

N+1Hi-Tech

«Кислотные» стикеры сделали самолеты невидимыми для нейросетей

Григорий Копиев

Ajaya Adhikari et al. arXiv.org, 2020

Исследователи из Нидерландов и Бельгии предложили заменять традиционный камуфляж для самолетов на аэродромах на небольшие относительно самолета тенты с нанесенными на них состязательными примерами — типом изображений, которые выглядят для человека как абстрактный набор фигур разных цветов, но для нейросети похож на объект определенного класса. Статья опубликована на arXiv.org.

У нейросетей есть фундаментальный недостаток, который потенциально можно использовать для умышленной атаки на них. Наиболее часто его наблюдают на примере алгоритмов распознавания и классификации. При работе с обычными изображениями, например, фотографиями животных, нейросеть адекватно распознает объекты на них. Однако для этой конкретной нейросетевой модели изображение с привычными для нее данными, к примеру, фотографию кота, можно немного изменить, после чего для человека она останется неотличимой от оригинала невооруженным взглядом, но для нейросети будет казаться совсем иной, например, фотографией слона. Учитывая, что нейросетевые алгоритмы применяются во все большем количестве областей, в том числе в беспилотных автомобилях, системах распознавания подозреваемых и даже в военной технике, исследователи считают состязательные примеры серьезной угрозой безопасности.

Состязательные примеры можно условно разделить на два основных класса: изображения с попиксельной заменой, годящиеся для атак в цифровом виде, и «стикеры» — небольшие самостоятельные изображения, в которых человек не может распознать никакой конкретный объект. Второй тип интересен тем, что его можно применять и вне цифровых устройств. К примеру, есть эксперименты, в которых авторы «скрывались» от систем распознавания лиц или обнаружения людей с помощью очков или плаката.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Излучение квазара подавило звездообразование в галактике из ранней Вселенной Излучение квазара подавило звездообразование в галактике из ранней Вселенной

Молекулярный газ ранней Вселенной разрушается под действием излучения квазара

N+1
«От ненависти до любви»: как и почему меняется отношение к своему телу «От ненависти до любви»: как и почему меняется отношение к своему телу

Взаимоотношения с телом часто предопределяют и то, как мы общаемся с миром

Psychologies
Ланч-боксы с подогревом: как они работают и стоит ли брать Ланч-боксы с подогревом: как они работают и стоит ли брать

Как работает ланч-бокс с подогревом и стоит ли вообще его покупать?

CHIP
Хватит мечтать, займись делом! Хватит мечтать, займись делом!

Почему важнее хорошо работать, чем искать хорошую работу

kiozk originals
Астероидные кольца, сила гравитации и сжатие звездного облака: откуда взялась Луна Астероидные кольца, сила гравитации и сжатие звездного облака: откуда взялась Луна

Почему ни одна из гипотез не может объяснить, как на самом деле «родилась» Луна

Maxim
Отрывок из книги Дэниела Киза «Войны Миллигана» Отрывок из книги Дэниела Киза «Войны Миллигана»

Отрывок из долгожданного продолжения романа Дэниела Киза о Билли Миллигане

СНОБ
Оставайся тверже камня! Что делать, если он потерял эрекцию Оставайся тверже камня! Что делать, если он потерял эрекцию

Что делать, если у него «грустный слоник» и как спасти положение

Cosmopolitan
Конец сказки Конец сказки

Чем может обернуться замужество

Лиза
«Дорогие товарищи» Андрея Кончаловского — фильм об уроке советской истории, который нельзя прогулять «Дорогие товарищи» Андрея Кончаловского — фильм об уроке советской истории, который нельзя прогулять

«Дорогие товарищи» — черно-белая драма о расстреле демонстрации в Новочеркасске

Esquire
10 необычных Opel 10 необычных Opel

Интереснейшие концепт-кары и прототипы Opel

Популярная механика
Считаете ли вы себя патриотом? Считаете ли вы себя патриотом?

Что такое правильный и неправильный патриотизм?

СНОБ
Люблю — не могу Люблю — не могу

Как вырваться из болезненных отношений?

Лиза
Сам себе MBA Сам себе MBA

Самообразование на 100%

kiozk originals
11 самых нелепых случаев использования компьютерной графики в кино 11 самых нелепых случаев использования компьютерной графики в кино

Иногда компьютерная графика только портит фильм

Maxim
Как спаниэль спас карьеру будущего президента США Ричарда Никсона Как спаниэль спас карьеру будущего президента США Ричарда Никсона

«Речь про Чекерса» стала самым проникновенным обращением к нации в прямом эфире

Maxim
Эффективный руководитель Эффективный руководитель

Книга, которая поможет повысить продуктивность работы

kiozk originals
Vagabonding Vagabonding

Искусство долгих путешествий по миру

kiozk originals
«Возникновение секулярного. Христианство, ислам, модерность» «Возникновение секулярного. Христианство, ислам, модерность»

Какой могла бы быть антропология секуляризма

N+1
В Париж по делу срочно В Париж по делу срочно

Как вареные яйца, круассаны и клубника помогли создать интерьер с обложки

AD
Как несостоявшийся ликвидатор Саддама Хусейна заработал $850 млн Как несостоявшийся ликвидатор Саддама Хусейна заработал $850 млн

Приложение Дорона Кемпеля, которое люди используют в тревожной ситуации

Forbes
«Отказываться от транспортного налога нельзя». Что будет с ценами на АЗС «Отказываться от транспортного налога нельзя». Что будет с ценами на АЗС

Что сегодня влияет на стоимость топлива и стоит ли ждать роста цен

РБК
Оксана Карас: «Когда смотришь фильм, последнее, о чем стоит думать, — что его сняла женщина» Оксана Карас: «Когда смотришь фильм, последнее, о чем стоит думать, — что его сняла женщина»

Оксана Карас сняла фильм «Доктор Лиза» о благотворительнице Елизавете Глинке

Glamour
11 самых странных концептуальных мотоциклов в истории: фото 11 самых странных концептуальных мотоциклов в истории: фото

Непрактичные или уникальные?

Популярная механика
Мясо Мясо

Eating animals

kiozk originals
В вечном поиске В вечном поиске

Почему долго не получается найти работу и что такое синдром безработного

Лиза
Чего ей не хватает Чего ей не хватает

Психология бедности: как она мешает нам разбогатеть

Cosmopolitan
7 странных явлений, которые происходят из-за Луны на Земле 7 странных явлений, которые происходят из-за Луны на Земле

Этот спутник не щадит ни львов, ни людей, ни лемуров!

Maxim
Женский живот: полезно или опасно качать пресс? Женский живот: полезно или опасно качать пресс?

Как состояние пресса сказывается на женском здоровье?

Psychologies
Краски лета Краски лета

Яркий интерьер для путешественников

SALON-Interior
Судьбы главных красавиц: что стало с победительницами конкурса Судьбы главных красавиц: что стало с победительницами конкурса

Корона "Мисс России" не гарантирует счастья и успеха

Cosmopolitan
Открыть в приложении