Как художники защищают свои картины от искусственного интеллекта?

Inc.Hi-Tech

Искусство против ИИ: как технологии помогают художникам защищать свои картины от обучения нейросетей без их согласия

Текст: Наташа Ломас, TechCrunch. Перевод: Татьяна Казымова

ai-cats.jpg

В последний год для художников проблема защиты своих работ от использования для обучения моделей ИИ без их согласия стала одной из первостепенных. Большинство из них рассчитывает получать заказы и другие возможности для заработка в социальных сетях и на собственных сайтах, так что отгородиться от внешнего мира им не представляется возможным. Команда ученых Чикагского университета (США) разработала инструмент, получивший название Nightshade, который «отравляет» данные изображений, делая их непригодными для обучения нейросетей. Рассказали подробнее о проекте и проблемах художников.

Для художников защита работ от использования их для обучения моделей искусственного интеллекта без согласия — задача не из простых. Запросы на отказ от использования предполагают, что компании, занимающиеся разработкой ИИ, будут действовать добросовестно, но те, для кого выгода важнее конфиденциальности, могут легко пренебречь такими мерами. Для большинства живописцев, которые рассчитывают получить комиссионные и другие возможности для работы в социальных сетях, отгородиться от внешнего мира не представляется возможным.

Как острый соус

Руководитель проекта Nightshade, профессор информатики Чикагского университета Бен Чжао сравнил разработку с острым соусом, который офисные сотрудники добавляют в обед, чтобы коллеги не украли его с общего холодильника. Он отметил, что инструмент демонстрирует тот факт, что генеративные модели в целом — всего лишь модели, а сам по себе Nightshade не задумывался как чрезвычайно мощное оружие против компаний, обучающих ИИ.

Бен Чжао

профессор информатики Чикагского университета

«Биткоин — это прямой активизм против не поддающейся проверке и ограничительной по своему характеру финансовой системы, которая негативно влияет на большую часть нашего общества. Важно как минимум признать, что с этим связаны социальные проблемы, с которыми ежедневно сталкиваются ваши клиенты».

При этом Чжао и его команда не преследуют цели уничтожить ИИ. Суть проекта — заставить технологических гигантов платить за труд художников, вместо того, чтобы обучать модели ИИ на, по сути, украденных изображениях. «Реальная проблема здесь заключается в согласии художников. Мы просто даем создателям контента возможность противостоять несанкционированному использованию», — отметил он.

nightshade-mona-lisa-1.jpg

Nightshade нацелен на ассоциации между текстовыми подсказками, изменяя пиксели на изображениях, чтобы обмануть модели искусственного интеллекта и заставить их создавать изображения, совершенно отличные от того, что ожидает увидеть человек. ИИ будет неправильно классифицировать признаки таких изображений, и если они будут обучены на достаточном количестве «отравленных» данных, они начнут генерировать изображения, совершенно не связанные с соответствующими запросами. Исследователи в технической статье отметили, что для этого потребуется не менее 100 «испорченных» образцов.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как искусственный интеллект меняет бьюти-индустрию Как искусственный интеллект меняет бьюти-индустрию

Как технологии ИИ ежедневно помогают бьюти-мастерам в работе?

Inc.
Не жить на автопилоте: почему важные вещи не стоит откладывать на завтра Не жить на автопилоте: почему важные вещи не стоит откладывать на завтра

Как распределять свои ресурсы и перестать жить вполсилы

Forbes
ИИ научился создавать реалистичные спутниковые снимки будущих наводнений ИИ научился создавать реалистичные спутниковые снимки будущих наводнений

Ученые разработали метод, который генерирует «снимки» будущих наводнений

ТехИнсайдер
Какое пиво полезнее для здоровья Какое пиво полезнее для здоровья

Может ли пиво быть полезным? И если да, то какое самое полезное?

Maxim
Почему женщины бегают к тарологам в 30, а мужчины верят в теории заговора после 50 лет Почему женщины бегают к тарологам в 30, а мужчины верят в теории заговора после 50 лет

Почему женщины склонны впадать в эзотерику в молодом возрасте, а мужчины в 50

Psychologies
Загадочные пятна: от чего на одежде появляются белые разводы после стирки Загадочные пятна: от чего на одежде появляются белые разводы после стирки

Как не допускать появления белого налета на одежде во время стирки?

ТехИнсайдер
Между серпом и пухом Между серпом и пухом

Тур на кроссовере марки Jetour до Серпухова и обратно

Автопилот
Наука в фантастике: эпизоды истории Наука в фантастике: эпизоды истории

Литературные жанры подчиняются правилам, которые формируют их границы

Наука и жизнь
Слово пацанам Слово пацанам

На свете много мужчин, которые начинают общение с грубости и хамства. Зачем?

VOICE
Тот еще подарочек Тот еще подарочек

Истории о самых неуместных или обидных презентах

Лиза
Ближний Восток: гудбай, Америка! Ближний Восток: гудбай, Америка!

С какой целью США тратят миллиарды долларов в далеких заморских землях?

Монокль
Лянка Грыу: «Важные решения нужно принимать, когда радость от нового шага больше страха перемен» Лянка Грыу: «Важные решения нужно принимать, когда радость от нового шага больше страха перемен»

Лянка Грыу — о пережитой депрессии, медитативной роли уборки и новой любви

Здоровье
«В параллели с Netflix, клиенты платят слишком мало и слишком многое получают бесплатно»: главное из интервью главы Wink «В параллели с Netflix, клиенты платят слишком мало и слишком многое получают бесплатно»: главное из интервью главы Wink

Гендиректор Wink — про оригинальные проекты и стоимость подписок

VC.RU
СДВГ может иметь эволюционные преимущества СДВГ может иметь эволюционные преимущества

СДВГ в высокой степени передается по наследству

ТехИнсайдер
Почему в Китае приговорили к смерти австралийского писателя и за какие преступления казнили иностранцев в КНР Почему в Китае приговорили к смерти австралийского писателя и за какие преступления казнили иностранцев в КНР

Почему в Китае приговорили писателя и за что в КНР казнят туристов

СНОБ
7 главных китайских электромобилей: история и характеристики 7 главных китайских электромобилей: история и характеристики

На что обратить внимание при выборе китайского электромобиля

РБК
Донорское молоко повлияло на развитие нервной системы недоношенных детей не лучше смесей Донорское молоко повлияло на развитие нервной системы недоношенных детей не лучше смесей

Недоношенные новорожденные подвержены риску нарушения развития нервной системы

N+1
Любовное онлайн-настроение Любовное онлайн-настроение

«Прошлые жизни»: сентиментальный роман цифровой эпохи

Weekend
Надо поговорить Надо поговорить

Зачем же искусство small talk нужно современной занятой женщине?

VOICE
«Черный вторник»: биржевой крах на Уолл-Стрит 1929 года «Черный вторник»: биржевой крах на Уолл-Стрит 1929 года

Рассказываем о биржевом крахе, произошедшем на Уолл-Стрит 29 октября 1929 года

ТехИнсайдер
Без спутников и самолетов: как в Средневековье создавали точные карты местности Без спутников и самолетов: как в Средневековье создавали точные карты местности

Рассказываем, какими были первые географические карты

ТехИнсайдер
Что добавить в воду во время мытья столешницы, чтобы она выглядела как новая Что добавить в воду во время мытья столешницы, чтобы она выглядела как новая

Как не испортить столешницу, решив вернуть ей былой блеск?

VOICE
Декрет для отцов: как воспитывают детей скандинавские мужчины Декрет для отцов: как воспитывают детей скандинавские мужчины

Личные истории скандинавских отцов и их детей в книге Nordic Dads

Psychologies
«Ты — то, что ты ешь»: какие продукты нужно включить в свой рацион, чтобы улучшить состояние кожи «Ты — то, что ты ешь»: какие продукты нужно включить в свой рацион, чтобы улучшить состояние кожи

Что нужно есть, чтобы добиться красивой и здоровой кожи

ТехИнсайдер
Если вы не любите камамбер, то вы его просто не умеете готовить. Раскрываем секреты, как правильно есть сыр Если вы не любите камамбер, то вы его просто не умеете готовить. Раскрываем секреты, как правильно есть сыр

Чтобы раскрыть истинную магию вкуса, камамбер нужно правильно подавать и есть!

ТехИнсайдер
Google Deepmind: ИИ обладает способностью к самопознанию, нужно только правильно его спросить Google Deepmind: ИИ обладает способностью к самопознанию, нужно только правильно его спросить

Ученые предложили новую систему промтов, которую назвали «самопознание»

ТехИнсайдер
Тропические леса Амазонки могут достичь «переломного момента» к 2050 году Тропические леса Амазонки могут достичь «переломного момента» к 2050 году

Лес перешел безопасную границу и нуждается в восстановлении

ТехИнсайдер
Все о МКАД: что это за дорога и какая у нее история Все о МКАД: что это за дорога и какая у нее история

Как развивался и что собой представляет сегодня МКАД

РБК
Затопленное химическое оружие Второй мировой. Опасно ли оно? Затопленное химическое оружие Второй мировой. Опасно ли оно?

Впервые о химическом оружии узнали 22 апреля 1915 года

Наука и техника
Энергетический баланс: 4 совета для восстановления сил Энергетический баланс: 4 совета для восстановления сил

Что делать, если энергия пропала, а на ее место пришла хроническая усталость?

Psychologies
Открыть в приложении