Причина в фундаментальном недостатке нейросетей

N+1Hi-Tech

«Кислотные» стикеры сделали самолеты невидимыми для нейросетей

Григорий Копиев

Ajaya Adhikari et al. arXiv.org, 2020

Исследователи из Нидерландов и Бельгии предложили заменять традиционный камуфляж для самолетов на аэродромах на небольшие относительно самолета тенты с нанесенными на них состязательными примерами — типом изображений, которые выглядят для человека как абстрактный набор фигур разных цветов, но для нейросети похож на объект определенного класса. Статья опубликована на arXiv.org.

У нейросетей есть фундаментальный недостаток, который потенциально можно использовать для умышленной атаки на них. Наиболее часто его наблюдают на примере алгоритмов распознавания и классификации. При работе с обычными изображениями, например, фотографиями животных, нейросеть адекватно распознает объекты на них. Однако для этой конкретной нейросетевой модели изображение с привычными для нее данными, к примеру, фотографию кота, можно немного изменить, после чего для человека она останется неотличимой от оригинала невооруженным взглядом, но для нейросети будет казаться совсем иной, например, фотографией слона. Учитывая, что нейросетевые алгоритмы применяются во все большем количестве областей, в том числе в беспилотных автомобилях, системах распознавания подозреваемых и даже в военной технике, исследователи считают состязательные примеры серьезной угрозой безопасности.

Состязательные примеры можно условно разделить на два основных класса: изображения с попиксельной заменой, годящиеся для атак в цифровом виде, и «стикеры» — небольшие самостоятельные изображения, в которых человек не может распознать никакой конкретный объект. Второй тип интересен тем, что его можно применять и вне цифровых устройств. К примеру, есть эксперименты, в которых авторы «скрывались» от систем распознавания лиц или обнаружения людей с помощью очков или плаката.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

ГМ-бактерия разрушила избыточные оксалаты в кишечнике крыс и людей ГМ-бактерия разрушила избыточные оксалаты в кишечнике крыс и людей

Как ученые создали бактерию для борьбы с кишечной гипероксалурией

N+1
Почему мы любим поговорить о бывших (особенно с нынешним) Почему мы любим поговорить о бывших (особенно с нынешним)

Признавайся, у тебя тоже бывает такое, что хочется рассказать о своем бывшем?

Cosmopolitan
Код руды: как оптимизировать измельчение руды с помощью искусственного интеллекта Код руды: как оптимизировать измельчение руды с помощью искусственного интеллекта

Какие цифровые инструменты используются при измельчении руд

ТехИнсайдер
На драйве На драйве

Гонки и адреналин на съемочной площадке спортивной драмы «Мастер»

OK!
Не сдирать! Что делать, если облезает кожа после солнечного ожога Не сдирать! Что делать, если облезает кожа после солнечного ожога

Что делать при солнечном ожоге, чтобы ускорить заживление кожи и облегчить зуд

ТехИнсайдер
Древних волков заподозрили в заботе о больных сородичах Древних волков заподозрили в заботе о больных сородичах

Ученые сделали такой вывод, обнаружив ископаемые останки животных

N+1
Одна вокруг света: как живут женщины племени падаунг Одна вокруг света: как живут женщины племени падаунг

86-я серия о кругосветном путешествии москвички Ирины Сидоренко и ее собаки

Forbes
Искусство в интерьере Искусство в интерьере

Подборка квартир, где арт-объекты удачно вписаны в пространство

AD
Шведский кошмар Стива Джобса: как Spotify перевернул музыкальную индустрию и потеснил Apple Шведский кошмар Стива Джобса: как Spotify перевернул музыкальную индустрию и потеснил Apple

Отрывок из книги Свена Карлссона и Юнаса Лейонхуфвуда об истории Spotify

Forbes
Якутское Якутское

В кино произошел разворот в сторону то ли большой России, то ли подлинного наива

Esquire
Не давите на больное Не давите на больное

Как помочь тинейджеру справиться с подростковым акне

Vogue
Почему мы подвержены аллергии Почему мы подвержены аллергии

Отрывок из книги Тима Спектора «Мифы о диетах»

СНОБ
Сера: из отходов в материал будущего Сера: из отходов в материал будущего

В мире ежегодно производится почти 80 миллионов тонн серы

Наука и жизнь
Кто разрабатывает российский электроавтомобиль Zetta, производство которого откладывают уже несколько раз Кто разрабатывает российский электроавтомобиль Zetta, производство которого откладывают уже несколько раз

Компания Zetta отложила серийное производство электромобиля City Modul 1

VC.RU
Бейби-фейс: 5 преступлений, совершенных взрослыми, которые притворялись детьми Бейби-фейс: 5 преступлений, совершенных взрослыми, которые притворялись детьми

Некоторые ловкачи обернули свои внешние данные себе на пользу

Cosmopolitan
Русская планета: почему «Роскосмос» решил искать на Венере жизнь Русская планета: почему «Роскосмос» решил искать на Венере жизнь

На Венере обнаружены вещества, ассоциируемые с жизнью

Esquire
Бразиллионеры Бразиллионеры

Богатство, власть, упадок и надежда в одной южно-американской стране

kiozk originals
Кожанки, оверсайз-пиджаки и шелк: что носил Микки Рурк в конце восьмидесятых и начале девяностых Кожанки, оверсайз-пиджаки и шелк: что носил Микки Рурк в конце восьмидесятых и начале девяностых

Восьмидесятые и девяностые идеально вписывались в гардероб Микки Рурка

Esquire
Артизаны не сдаются Артизаны не сдаются

Станет ли нынешнее поколение мастеров последним в истории материальной культуры

Robb Report
Кредиты под 365% годовых: как ростовщики ломают жизни заемщикам Кредиты под 365% годовых: как ростовщики ломают жизни заемщикам

Недобросовестные коллекторы кажутся источником зла, но только на первый взгляд

Forbes
Человек в поисках смысла Человек в поисках смысла

Теория поиска смысла жизни, которая помогает пережить ад на земле

kiozk originals
Лесная поликлиника Лесная поликлиника

Какими способами самолечения пользуются животные?

Вокруг света
Толкование сновидений Толкование сновидений

Главная работа отца психоанализа

kiozk originals
Как поднять себе настроение и перестать загоняться: 6 грамотных способов Как поднять себе настроение и перестать загоняться: 6 грамотных способов

Как справиться с грустными мыслями?

Playboy
Плоская металинза дала эффект рыбьего глаза Плоская металинза дала эффект рыбьего глаза

Угол обзора мегалинзы превышает 170 градусов

N+1
Фаршированный перец Фаршированный перец

Сильные стороны голубца компенсируются слабостями. Проверим?

Weekend
Многообразие религиозного опыта Многообразие религиозного опыта

Исследование человеческой природы

kiozk originals
Как побороть опухоль мозга и создать крупнейший инвестфонд в сфере выращивания морепродуктов Как побороть опухоль мозга и создать крупнейший инвестфонд в сфере выращивания морепродуктов

Сейчас в портфеле Эми Новогратц — 19 компаний, а на радаре — еще полторы тысячи

Forbes
Чтобы получать меньше писем, надо отправлять меньше писем: лайфхаки по освобождению от почтового рабства и зависимости от соцсетей Чтобы получать меньше писем, надо отправлять меньше писем: лайфхаки по освобождению от почтового рабства и зависимости от соцсетей

Отрывок из книги «Неотвлекаемые. Как управлять своим вниманием и жизнью»

Inc.
Идем в школу: как улучшить память и внимание Идем в школу: как улучшить память и внимание

Зная, как работает мозг, можно добиться от него удивительных результатов

Популярная механика
Открыть в приложении