Как художники защищают свои картины от искусственного интеллекта?

Inc.Hi-Tech

Искусство против ИИ: как технологии помогают художникам защищать свои картины от обучения нейросетей без их согласия

Текст: Наташа Ломас, TechCrunch. Перевод: Татьяна Казымова

ai-cats.jpg

В последний год для художников проблема защиты своих работ от использования для обучения моделей ИИ без их согласия стала одной из первостепенных. Большинство из них рассчитывает получать заказы и другие возможности для заработка в социальных сетях и на собственных сайтах, так что отгородиться от внешнего мира им не представляется возможным. Команда ученых Чикагского университета (США) разработала инструмент, получивший название Nightshade, который «отравляет» данные изображений, делая их непригодными для обучения нейросетей. Рассказали подробнее о проекте и проблемах художников.

Для художников защита работ от использования их для обучения моделей искусственного интеллекта без согласия — задача не из простых. Запросы на отказ от использования предполагают, что компании, занимающиеся разработкой ИИ, будут действовать добросовестно, но те, для кого выгода важнее конфиденциальности, могут легко пренебречь такими мерами. Для большинства живописцев, которые рассчитывают получить комиссионные и другие возможности для работы в социальных сетях, отгородиться от внешнего мира не представляется возможным.

Как острый соус

Руководитель проекта Nightshade, профессор информатики Чикагского университета Бен Чжао сравнил разработку с острым соусом, который офисные сотрудники добавляют в обед, чтобы коллеги не украли его с общего холодильника. Он отметил, что инструмент демонстрирует тот факт, что генеративные модели в целом — всего лишь модели, а сам по себе Nightshade не задумывался как чрезвычайно мощное оружие против компаний, обучающих ИИ.

Бен Чжао

профессор информатики Чикагского университета

«Биткоин — это прямой активизм против не поддающейся проверке и ограничительной по своему характеру финансовой системы, которая негативно влияет на большую часть нашего общества. Важно как минимум признать, что с этим связаны социальные проблемы, с которыми ежедневно сталкиваются ваши клиенты».

При этом Чжао и его команда не преследуют цели уничтожить ИИ. Суть проекта — заставить технологических гигантов платить за труд художников, вместо того, чтобы обучать модели ИИ на, по сути, украденных изображениях. «Реальная проблема здесь заключается в согласии художников. Мы просто даем создателям контента возможность противостоять несанкционированному использованию», — отметил он.

nightshade-mona-lisa-1.jpg

Nightshade нацелен на ассоциации между текстовыми подсказками, изменяя пиксели на изображениях, чтобы обмануть модели искусственного интеллекта и заставить их создавать изображения, совершенно отличные от того, что ожидает увидеть человек. ИИ будет неправильно классифицировать признаки таких изображений, и если они будут обучены на достаточном количестве «отравленных» данных, они начнут генерировать изображения, совершенно не связанные с соответствующими запросами. Исследователи в технической статье отметили, что для этого потребуется не менее 100 «испорченных» образцов.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Мы даем удочку и показываем, где ловить рыбу»: как бывший менеджер Яндекса построил рекламного гиганта в Telegram «Мы даем удочку и показываем, где ловить рыбу»: как бывший менеджер Яндекса построил рекламного гиганта в Telegram

Как создать рекламного гиганта там, где крупные игроки еще не появились?

Inc.
NASA: Луна сжимается, ломая кору у Южного полюса NASA: Луна сжимается, ломая кору у Южного полюса

Ученые NASA зарегистрировали в районе Южного полюса Луны небольшие лунотрясения

ТехИнсайдер
Komatsu показала лунный экскаватор и подводный бульдозер Komatsu показала лунный экскаватор и подводный бульдозер

Подводный электрический робобульдозер и макет лунного беспилотного экскаватора

N+1
Ирина Винер: «Слезы моих детей я не прощаю никому, жестко отвечаю любому, кем бы он ни был» Ирина Винер: «Слезы моих детей я не прощаю никому, жестко отвечаю любому, кем бы он ни был»

Если ребенок чувствует ложь, что его обманывают — все, пощады не жди!

Коллекция. Караван историй
Почему нам хочется есть: как нейрофизиология объясняет переедание и импульсивные перекусы Почему нам хочется есть: как нейрофизиология объясняет переедание и импульсивные перекусы

Каков ключ к решению проблемы переедания и импульсивных перекусов?

ТехИнсайдер
Сладко / Не сладко! Сладко / Не сладко!

Стас Пауль, автор знаменитых свекольного мильфея и крема из пастернака

Собака.ru
Как включить Bluetooth на компьютере за пару кликов: объясняем простым языком Как включить Bluetooth на компьютере за пару кликов: объясняем простым языком

Как быстро включить Bluetooth на ноутбуке, чтобы долго не копаться в настройках

ТехИнсайдер
Как сходить на свидание и не пожалеть об этом: 6 рекомендаций Как сходить на свидание и не пожалеть об этом: 6 рекомендаций

Как найти «своего» человека? Что важно знать?

Psychologies
Уникальный российско-американский тепловоз ТЭРА-1 продается на «Авито» – почему он вам не знаком Уникальный российско-американский тепловоз ТЭРА-1 продается на «Авито» – почему он вам не знаком

ТЭРА-1: тепловоз с российской базой и американской начинкой

ТехИнсайдер
Проявление любви и женской природы: почему нам до сих пор не платят за домашний труд Проявление любви и женской природы: почему нам до сих пор не платят за домашний труд

Почему домработнице и личному повару платят за их работу, домохозяйке — нет?

Forbes
Ругайтесь на здоровье: 2 аргумента в пользу ссор в паре Ругайтесь на здоровье: 2 аргумента в пользу ссор в паре

Мужья и жены, которые спорят до хрипоты, живут дольше тех, кто подавляет гнев

Psychologies
Тело на шотландском пляже: пугающая история шведки Анни Боржессон, гибель которой запретили расследовать Тело на шотландском пляже: пугающая история шведки Анни Боржессон, гибель которой запретили расследовать

История этой женщины могла бы стать сюжетом для скандинавского детектива

VOICE
Кожа, в которой я пишу Кожа, в которой я пишу

«Американское чтиво»: умная сатира на политкорректность

Weekend
Геологическую активность молодого Марса объяснили вертикальной тектоникой Геологическую активность молодого Марса объяснили вертикальной тектоникой

Марс был гораздо более тектонически активен, чем считали ученые

N+1
Почему не стоит откладывать деньги на черный день: 3 принципа финансовой грамотности Почему не стоит откладывать деньги на черный день: 3 принципа финансовой грамотности

В чем заключается альтернативная система накоплений?

Psychologies
Между серпом и пухом Между серпом и пухом

Тур на кроссовере марки Jetour до Серпухова и обратно

Автопилот
5 случаев излечения от неизлечимых болезней, в которые сложно поверить 5 случаев излечения от неизлечимых болезней, в которые сложно поверить

Прецеденты, когда пациенты, считавшиеся безнадежными, успешно шли на поправку

Maxim
6 фильмов о борьбе с онкологией 6 фильмов о борьбе с онкологией

Фильмы, в которых герои сражаются с онкологией

Правила жизни
Живые игрушки. Окончание трилогии Живые игрушки. Окончание трилогии

Катерина Мурашова: как мотивировать детей и не навредить

СНОБ
«Сцены из супружеской жизни» — телеспектакль Ингмара Бергмана и его ремейк с Оскаром Айзеком и Джессикой Честейн «Сцены из супружеской жизни» — телеспектакль Ингмара Бергмана и его ремейк с Оскаром Айзеком и Джессикой Честейн

Психологическая драма Ингмара Бергмана и ее ремейк 2021 года

СНОБ
Шуршание, постукивание, причмокивание: что такое АСМР Шуршание, постукивание, причмокивание: что такое АСМР

АСМР: что это такое, кто к нему восприимчив и есть ли от него польза?

Psychologies
Шок-контент Шок-контент

Вездеход здорового горожанина

Автопилот
Витамин юности: что такое ретинол Витамин юности: что такое ретинол

Ретинол: чем же он хорош для кожи и как эффективнее всего его использовать

Psychologies
До дрожи в земле До дрожи в земле

От холода порой дрожат не только люди и коты, но даже... сама земля

Наука и жизнь
Лицевой осмотр Лицевой осмотр

Лицо – это зеркало здоровья, которое подскажет скрытые болезни в организме

Лиза
«Мейерхольд. Чужой театр»: хроника одного собрания «Мейерхольд. Чужой театр»: хроника одного собрания

Премьера спектакля, посвященного 150-летию Всеволода Мейерхольда

Монокль
Поразительно! Психологическая помощь по телефону способна улучшить ваше здоровье Поразительно! Психологическая помощь по телефону способна улучшить ваше здоровье

Польза от психологической помощи по телефону выше, чем от антидепрессантов

ТехИнсайдер
Инженеры научились вызывать галлюцинации у автомобилей Инженеры научились вызывать галлюцинации у автомобилей

Выяснилось, что «умом» автомобилей могут воспользоваться злоумышленники

Maxim
20 лучших ролей Тома Круза за всю карьеру 20 лучших ролей Тома Круза за всю карьеру

От кумира тинейджеров до одного из главных актеров Голливуда

Правила жизни
В США появился первый летчик-ас со времен Вьетнама. Вас удивит, на чем он летает В США появился первый летчик-ас со времен Вьетнама. Вас удивит, на чем он летает

Новое пополнение в ряду американских асов. Знакомьтесь, капитан Эрл Ирхарт Пятый

ТехИнсайдер
Открыть в приложении