Как художники защищают свои картины от искусственного интеллекта?

Inc.Hi-Tech

Искусство против ИИ: как технологии помогают художникам защищать свои картины от обучения нейросетей без их согласия

Текст: Наташа Ломас, TechCrunch. Перевод: Татьяна Казымова

ai-cats.jpg

В последний год для художников проблема защиты своих работ от использования для обучения моделей ИИ без их согласия стала одной из первостепенных. Большинство из них рассчитывает получать заказы и другие возможности для заработка в социальных сетях и на собственных сайтах, так что отгородиться от внешнего мира им не представляется возможным. Команда ученых Чикагского университета (США) разработала инструмент, получивший название Nightshade, который «отравляет» данные изображений, делая их непригодными для обучения нейросетей. Рассказали подробнее о проекте и проблемах художников.

Для художников защита работ от использования их для обучения моделей искусственного интеллекта без согласия — задача не из простых. Запросы на отказ от использования предполагают, что компании, занимающиеся разработкой ИИ, будут действовать добросовестно, но те, для кого выгода важнее конфиденциальности, могут легко пренебречь такими мерами. Для большинства живописцев, которые рассчитывают получить комиссионные и другие возможности для работы в социальных сетях, отгородиться от внешнего мира не представляется возможным.

Как острый соус

Руководитель проекта Nightshade, профессор информатики Чикагского университета Бен Чжао сравнил разработку с острым соусом, который офисные сотрудники добавляют в обед, чтобы коллеги не украли его с общего холодильника. Он отметил, что инструмент демонстрирует тот факт, что генеративные модели в целом — всего лишь модели, а сам по себе Nightshade не задумывался как чрезвычайно мощное оружие против компаний, обучающих ИИ.

Бен Чжао

профессор информатики Чикагского университета

«Биткоин — это прямой активизм против не поддающейся проверке и ограничительной по своему характеру финансовой системы, которая негативно влияет на большую часть нашего общества. Важно как минимум признать, что с этим связаны социальные проблемы, с которыми ежедневно сталкиваются ваши клиенты».

При этом Чжао и его команда не преследуют цели уничтожить ИИ. Суть проекта — заставить технологических гигантов платить за труд художников, вместо того, чтобы обучать модели ИИ на, по сути, украденных изображениях. «Реальная проблема здесь заключается в согласии художников. Мы просто даем создателям контента возможность противостоять несанкционированному использованию», — отметил он.

nightshade-mona-lisa-1.jpg

Nightshade нацелен на ассоциации между текстовыми подсказками, изменяя пиксели на изображениях, чтобы обмануть модели искусственного интеллекта и заставить их создавать изображения, совершенно отличные от того, что ожидает увидеть человек. ИИ будет неправильно классифицировать признаки таких изображений, и если они будут обучены на достаточном количестве «отравленных» данных, они начнут генерировать изображения, совершенно не связанные с соответствующими запросами. Исследователи в технической статье отметили, что для этого потребуется не менее 100 «испорченных» образцов.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

50 лет исследований показали: эти 4 ошибки разрушают брак 50 лет исследований показали: эти 4 ошибки разрушают брак

Четыре стратегии общения, которые могут привести к расставаниям и разводам

Inc.
В СССР шахматы не были просто игрой. Они обостряли отношения с США в холодную войну В СССР шахматы не были просто игрой. Они обостряли отношения с США в холодную войну

Почему шахматы использовали как оружие холодной войны?

Maxim
Сколько лет самому старому ныне летающему самолету ВВС США: даже знатокам будет трудно угадать! Сколько лет самому старому ныне летающему самолету ВВС США: даже знатокам будет трудно угадать!

Какой самый старый ныне летающий самолет в военной авиации США

ТехИнсайдер
5 фраз, которые выдают в вас человека с детскими травмами 5 фраз, которые выдают в вас человека с детскими травмами

Используете ли вы словосочетания, по которым можно выявить травмы?

Psychologies
«Рапунцель» и «Румпельштильцхен»: как сказочницы сочиняли совсем не детские истории «Рапунцель» и «Румпельштильцхен»: как сказочницы сочиняли совсем не детские истории

О шести сказочницах, которые говорили о женской судьбе

Forbes
С какими проблемами люди старшего возраста чаще всего обращаются к психологу С какими проблемами люди старшего возраста чаще всего обращаются к психологу

С какими проблемами люди старшего возраста чаще всего обращаются к психологам

Psychologies
Эффект Бенджамина Франклина: как превратить коллегу-врага в друга Эффект Бенджамина Франклина: как превратить коллегу-врага в друга

Как заставить окружающих нас полюбить или самим проникнуться к ним симпатией?

Psychologies
Любовь Аркус — Forbes: «Женщина тащит весь груз, который природа ей предоставляет» Любовь Аркус — Forbes: «Женщина тащит весь груз, который природа ей предоставляет»

Режиссер Любовь Аркус — как честно высказываться в условиях цензуры

Forbes
Ее собственная лига: как Тэйлор Свифт меняет экономику и аудиторию НФЛ Ее собственная лига: как Тэйлор Свифт меняет экономику и аудиторию НФЛ

Как, с помощью Тэйлор Свифт, самая богатая лига мира заработала $331 млн

Forbes
Почему четвертый сезон «Настоящего детектива» получился хуже некуда? Почему четвертый сезон «Настоящего детектива» получился хуже некуда?

Пять причин не смотреть новый сезон «Настоящего детектива»

Maxim
От пения у закусочной до «Грэмми»: 5 фактов о Виктории Моне От пения у закусочной до «Грэмми»: 5 фактов о Виктории Моне

Виктория Моне: долгий путь к славе и любовь к диско 1970-х

Правила жизни
Какой должна быть яркость экрана смартфона, чтобы изображение всегда было хорошо видно Какой должна быть яркость экрана смартфона, чтобы изображение всегда было хорошо видно

Пиковая яркость — реальная характеристика или маркетинговый термин?

CHIP
«Воланд — не печальный душный дед»: кто и почему сексуализирует героя из «Мастера и Маргариты» «Воланд — не печальный душный дед»: кто и почему сексуализирует героя из «Мастера и Маргариты»

Сексуализировать Воланда — иметь специфичный вкус?

Psychologies
Кожа, в которой я пишу Кожа, в которой я пишу

«Американское чтиво»: умная сатира на политкорректность

Weekend
5 мемуаров известных актеров 5 мемуаров известных актеров

Говорят, что талантливый человек талантлив во всем, особенно в написании книг

Maxim
6 мифов о кофе: что думают ученые 6 мифов о кофе: что думают ученые

Сколько же мифов ходит вокруг кофе, и какие из них правдивы?

ТехИнсайдер
Сказке конец Сказке конец

Как порой из-за одной нелепой мелочи рушатся крепкие отношения с близкими людьми

Лиза
Как стартап по внедрению ИИ в МРТ-диагностику для богатых биохакеров привлек $21 млн Как стартап по внедрению ИИ в МРТ-диагностику для богатых биохакеров привлек $21 млн

Как стартап Ezra пытается донести важность МРТ и есть ли в этом смысл

Forbes
Как вирусы могут изменить океан и помочь в борьбе с глобальным потеплением Как вирусы могут изменить океан и помочь в борьбе с глобальным потеплением

Ученые сосредоточились на вирусах, помогающих улавливать углекислый газ в море

ТехИнсайдер
Съедобные лекарства: какие продукты нужно есть, когда вздувается живот Съедобные лекарства: какие продукты нужно есть, когда вздувается живот

Продукты, которые помогут справиться с метеоризмом

ТехИнсайдер
«Приливы кельтов»: что такое розацеа и как избежать ее развития «Приливы кельтов»: что такое розацеа и как избежать ее развития

У кого и почему развивается розацеа?

Psychologies
20 отличных драм за последние десять лет, которые стоит посмотреть 20 отличных драм за последние десять лет, которые стоит посмотреть

В подборке — признанные критиками драмы за последние десять лет

Правила жизни
7 главных китайских электромобилей: история и характеристики 7 главных китайских электромобилей: история и характеристики

На что обратить внимание при выборе китайского электромобиля

РБК
Работа для стоматолога: 9 продуктов, которые вредят здоровью зубов сильнее, чем конфеты Работа для стоматолога: 9 продуктов, которые вредят здоровью зубов сильнее, чем конфеты

Какие продукты следует исключить из рациона, чтобы не навредить здоровью зубов

ТехИнсайдер
Маска забвения Маска забвения

Как Всеволод Мейерхольд оказался главным призраком русского театра ХХ века

Weekend
Лучшие маслкары: фото и характеристики машин Лучшие маслкары: фото и характеристики машин

Какие автомобили называли маслкарами, выпускают ли их сейчас

РБК
Трюки с резюме: какие уловки помогают джунам находить высокооплачиваемую работу в IT Трюки с резюме: какие уловки помогают джунам находить высокооплачиваемую работу в IT

Как джуны получают заветные офферы и что об этом думает бизнес и рекрутеры?

Forbes
Как пережить смерть кумира? Как пережить смерть кумира?

Что делать, если смерть известного человека потрясла вас до глубины души

Maxim
«Пока люди выходят из дома на улицу, с офлайн-торговлей все будет хорошо» «Пока люди выходят из дома на улицу, с офлайн-торговлей все будет хорошо»

Чего хотят розничные офлайн-бизнесы от банка?

Деньги
New Horizons заметила повышенную запыленность Пояса Койпера New Horizons заметила повышенную запыленность Пояса Койпера

Плотность частиц пыли в Поясе Койпера падает медленнее, чем это предсказывают

N+1
Открыть в приложении