Как художники защищают свои картины от искусственного интеллекта?

Inc.Hi-Tech

Искусство против ИИ: как технологии помогают художникам защищать свои картины от обучения нейросетей без их согласия

Текст: Наташа Ломас, TechCrunch. Перевод: Татьяна Казымова

ai-cats.jpg

В последний год для художников проблема защиты своих работ от использования для обучения моделей ИИ без их согласия стала одной из первостепенных. Большинство из них рассчитывает получать заказы и другие возможности для заработка в социальных сетях и на собственных сайтах, так что отгородиться от внешнего мира им не представляется возможным. Команда ученых Чикагского университета (США) разработала инструмент, получивший название Nightshade, который «отравляет» данные изображений, делая их непригодными для обучения нейросетей. Рассказали подробнее о проекте и проблемах художников.

Для художников защита работ от использования их для обучения моделей искусственного интеллекта без согласия — задача не из простых. Запросы на отказ от использования предполагают, что компании, занимающиеся разработкой ИИ, будут действовать добросовестно, но те, для кого выгода важнее конфиденциальности, могут легко пренебречь такими мерами. Для большинства живописцев, которые рассчитывают получить комиссионные и другие возможности для работы в социальных сетях, отгородиться от внешнего мира не представляется возможным.

Как острый соус

Руководитель проекта Nightshade, профессор информатики Чикагского университета Бен Чжао сравнил разработку с острым соусом, который офисные сотрудники добавляют в обед, чтобы коллеги не украли его с общего холодильника. Он отметил, что инструмент демонстрирует тот факт, что генеративные модели в целом — всего лишь модели, а сам по себе Nightshade не задумывался как чрезвычайно мощное оружие против компаний, обучающих ИИ.

Бен Чжао

профессор информатики Чикагского университета

«Биткоин — это прямой активизм против не поддающейся проверке и ограничительной по своему характеру финансовой системы, которая негативно влияет на большую часть нашего общества. Важно как минимум признать, что с этим связаны социальные проблемы, с которыми ежедневно сталкиваются ваши клиенты».

При этом Чжао и его команда не преследуют цели уничтожить ИИ. Суть проекта — заставить технологических гигантов платить за труд художников, вместо того, чтобы обучать модели ИИ на, по сути, украденных изображениях. «Реальная проблема здесь заключается в согласии художников. Мы просто даем создателям контента возможность противостоять несанкционированному использованию», — отметил он.

nightshade-mona-lisa-1.jpg

Nightshade нацелен на ассоциации между текстовыми подсказками, изменяя пиксели на изображениях, чтобы обмануть модели искусственного интеллекта и заставить их создавать изображения, совершенно отличные от того, что ожидает увидеть человек. ИИ будет неправильно классифицировать признаки таких изображений, и если они будут обучены на достаточном количестве «отравленных» данных, они начнут генерировать изображения, совершенно не связанные с соответствующими запросами. Исследователи в технической статье отметили, что для этого потребуется не менее 100 «испорченных» образцов.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

На Марсе будут расти дома: ученые придумали способ, который решит проблему колонизации На Марсе будут расти дома: ученые придумали способ, который решит проблему колонизации

Как строить из того, что предлагает сам Марс?

Inc.
Великий Гусляр и новейшие кинотренды Великий Гусляр и новейшие кинотренды

«Очевидное невероятное»: сатирический цикл Кира Булычева в сериальном формате

Weekend
Как в лучших фильмах: 5 шпионских гаджетов времен холодной войны Как в лучших фильмах: 5 шпионских гаджетов времен холодной войны

Устройства времен холодной войны, которые делали работу шпионов эффективнее

ТехИнсайдер
Авиалинии «холодной войны»: как советские самолеты летали за границу Авиалинии «холодной войны»: как советские самолеты летали за границу

Чаще всего политические кризисы заканчивалось прерванными полетами

ТехИнсайдер
11 способов становиться немного умнее каждый день 11 способов становиться немного умнее каждый день

Интеллект, как и тело, требует правильного питания и регулярных тренировок

Psychologies
Одевай VS надевай Одевай VS надевай

Ошибки в речи, которые выдают в тебе безграмотного человека

Лиза
Плюсы и минусы «Москвича 6»: лифтбек для депутата Плюсы и минусы «Москвича 6»: лифтбек для депутата

Покатавшись на «Москвиче 6» при минус 25, мы осознали все его плюсы и минусы

Maxim
В СССР радиоактивные материалы свободно можно было купить в центре Москвы. История уникального магазина “Изотопы” В СССР радиоактивные материалы свободно можно было купить в центре Москвы. История уникального магазина “Изотопы”

Как в СССР свободно продавали радиоактивные вещества и все, что с ними связано

ТехИнсайдер
Шитье и немцы Шитье и немцы

«The New Look»: Шанель против Диора

Weekend
Красные, белые и оранжевые. Как правильно декантировать разные вина Красные, белые и оранжевые. Как правильно декантировать разные вина

Для каких вин нужен декантер и почему некоторым винам он может навредить

СНОБ
5 фактов о певце Macan — новом символе русского рэпа 5 фактов о певце Macan — новом символе русского рэпа

Что скрывается за пацанской эстетикой? Разбираемся на примере интервью Macan

Psychologies
Лжец со стрелкой: 5 необычных фактов об обычном спидометре Лжец со стрелкой: 5 необычных фактов об обычном спидометре

Несколько удивительных фактов о спидометре в вашем автомобиле

ТехИнсайдер
Загадочные пятна: от чего на одежде появляются белые разводы после стирки Загадочные пятна: от чего на одежде появляются белые разводы после стирки

Как не допускать появления белого налета на одежде во время стирки?

ТехИнсайдер
«Бельтенеброс»: шпионский триллер в атмосфере Мадрида 1960 годов «Бельтенеброс»: шпионский триллер в атмосфере Мадрида 1960 годов

В издательстве «Поляндрия No Age» выходит роман «Бельтенеброс»

Forbes
Александра Ревенко: «Я очень люблю абсурд» Александра Ревенко: «Я очень люблю абсурд»

Александра Ревенко — о восточном подходе к работе и личных границах

Grazia
Как избавиться от зависимости от смартфона: мнение ученых Как избавиться от зависимости от смартфона: мнение ученых

Как связаны смартфоны и дофамин?

ТехИнсайдер
Распишитесь, получите. Пошаговая инструкция для тех, кто сталкивается с этим впервые Распишитесь, получите. Пошаговая инструкция для тех, кто сталкивается с этим впервые

Часто наследственные дела появляются неожиданно. Как происходит процедура

Лиза
Любите друг друга Любите друг друга

Анна Меликян — о том, что роли никогда не приходят случайно

OK!
5 полезных свойств кунжутного масла: комментарии экспертов 5 полезных свойств кунжутного масла: комментарии экспертов

Кунжутное масло благотворно влияет на здоровье

РБК
Антон Андрейчиков: «Мы развиваем не только ребенка, но и его родителей» Антон Андрейчиков: «Мы развиваем не только ребенка, но и его родителей»

История создания студии Platoshka из уст одного из ее основателей

Монокль
Играя на гармошке: как на народном инструменте заработать 300 млн рублей в год Играя на гармошке: как на народном инструменте заработать 300 млн рублей в год

Как предприятие по производству гармошек и баянов снова приносит миллионы?

Forbes
5 фактов из жизни Ромы Желудя: секс-зависимость, эскорт, смерть мамы и не только 5 фактов из жизни Ромы Желудя: секс-зависимость, эскорт, смерть мамы и не только

Самые интересные моменты из большого интервью Ромы Желудя

Psychologies
Дмитрий Леонтьев: Jaecoo J7 и Volvo XC90 весь день таскали друг друга... Дмитрий Леонтьев: Jaecoo J7 и Volvo XC90 весь день таскали друг друга...

Как кроссовер 4х2 вытаскивал из глубокого снега полноприводного собрата

4x4 Club
Чит-коды Скайрим: все самое важное от денег до оружия Чит-коды Скайрим: все самое важное от денег до оружия

В этой статье мы перечислим все основные чит-коды в Скайрим

CHIP
Валерия Шкирандо Валерия Шкирандо

Актриса Валерия Шкирандо дебютирует в режиссуре с сериалом «Саша и Питер»

Собака.ru
Как зарабатывать большие деньги без стресса и усталости: простая и быстрая техника Как зарабатывать большие деньги без стресса и усталости: простая и быстрая техника

Чтобы заработать миллионы, найдите свою страсть и посвятите жизнь её реализации

Psychologies
У аппарата. 5 действий с телефоном, которые указывают на невротическое поведение У аппарата. 5 действий с телефоном, которые указывают на невротическое поведение

Как выявить склонность к неврозу и нездоровую привязанность к гаджету

Лиза
4 черты мужского характера, на которые женщинам бессмысленно обижаться 4 черты мужского характера, на которые женщинам бессмысленно обижаться

Четыре типичные «неприятные» черты мужского характера

Maxim
Почему мы думаем, что не заслуживаем счастья: 6 причин Почему мы думаем, что не заслуживаем счастья: 6 причин

Откуда берется это ощущение — «я недостоин хорошей жизни/благополучия»?

Psychologies
«Азбука вкуса» пошла в огород «Азбука вкуса» пошла в огород

«Азбука вкуса» начала самостоятельно выращивать овощи для своих магазинов

Агроинвестор
Открыть в приложении