Как художники защищают свои картины от искусственного интеллекта?

Inc.Hi-Tech

Искусство против ИИ: как технологии помогают художникам защищать свои картины от обучения нейросетей без их согласия

Текст: Наташа Ломас, TechCrunch. Перевод: Татьяна Казымова

ai-cats.jpg

В последний год для художников проблема защиты своих работ от использования для обучения моделей ИИ без их согласия стала одной из первостепенных. Большинство из них рассчитывает получать заказы и другие возможности для заработка в социальных сетях и на собственных сайтах, так что отгородиться от внешнего мира им не представляется возможным. Команда ученых Чикагского университета (США) разработала инструмент, получивший название Nightshade, который «отравляет» данные изображений, делая их непригодными для обучения нейросетей. Рассказали подробнее о проекте и проблемах художников.

Для художников защита работ от использования их для обучения моделей искусственного интеллекта без согласия — задача не из простых. Запросы на отказ от использования предполагают, что компании, занимающиеся разработкой ИИ, будут действовать добросовестно, но те, для кого выгода важнее конфиденциальности, могут легко пренебречь такими мерами. Для большинства живописцев, которые рассчитывают получить комиссионные и другие возможности для работы в социальных сетях, отгородиться от внешнего мира не представляется возможным.

Как острый соус

Руководитель проекта Nightshade, профессор информатики Чикагского университета Бен Чжао сравнил разработку с острым соусом, который офисные сотрудники добавляют в обед, чтобы коллеги не украли его с общего холодильника. Он отметил, что инструмент демонстрирует тот факт, что генеративные модели в целом — всего лишь модели, а сам по себе Nightshade не задумывался как чрезвычайно мощное оружие против компаний, обучающих ИИ.

Бен Чжао

профессор информатики Чикагского университета

«Биткоин — это прямой активизм против не поддающейся проверке и ограничительной по своему характеру финансовой системы, которая негативно влияет на большую часть нашего общества. Важно как минимум признать, что с этим связаны социальные проблемы, с которыми ежедневно сталкиваются ваши клиенты».

При этом Чжао и его команда не преследуют цели уничтожить ИИ. Суть проекта — заставить технологических гигантов платить за труд художников, вместо того, чтобы обучать модели ИИ на, по сути, украденных изображениях. «Реальная проблема здесь заключается в согласии художников. Мы просто даем создателям контента возможность противостоять несанкционированному использованию», — отметил он.

nightshade-mona-lisa-1.jpg

Nightshade нацелен на ассоциации между текстовыми подсказками, изменяя пиксели на изображениях, чтобы обмануть модели искусственного интеллекта и заставить их создавать изображения, совершенно отличные от того, что ожидает увидеть человек. ИИ будет неправильно классифицировать признаки таких изображений, и если они будут обучены на достаточном количестве «отравленных» данных, они начнут генерировать изображения, совершенно не связанные с соответствующими запросами. Исследователи в технической статье отметили, что для этого потребуется не менее 100 «испорченных» образцов.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Раскрыта cтратегия, которой следуют успешные люди на пути к большой цели Раскрыта cтратегия, которой следуют успешные люди на пути к большой цели

Какими качествами должны обладать эффективные лидеры и сотрудники

Inc.
Найти настоящего друга Найти настоящего друга

Какую дружбу мы считаем верной и что сделать, чтоб она у нас была?

Psychologies
Это я беру на себя: почему бизнес все чаще размещает IT-решения на своих серверах Это я беру на себя: почему бизнес все чаще размещает IT-решения на своих серверах

Почему бизнес предпочитает развивать свою IT-инфраструктуру?

Forbes
Если не хочется работать: что делать в таком случае, рассказывает психолог Если не хочется работать: что делать в таком случае, рассказывает психолог

Когда мы слышим «не хочу работать вообще никогда», то сразу начинаем обвинять

Psychologies
Месть и немного любви: пять лучших фильмов этой весны о женщинах Месть и немного любви: пять лучших фильмов этой весны о женщинах

Рассказываем о пяти фильмах про женщин, которые стоит посмотреть

Forbes
Спасение явлений Спасение явлений

Как Галилео Галилей стал мучеником науки

Weekend
Норберт Нидеркофлер: «Я делаю ставку на молодежь» Норберт Нидеркофлер: «Я делаю ставку на молодежь»

Он превратил простую пиццерию в ресторан с тремя звездами Michelin

Bones
Жена Вермеера взвешивает деньги: как торговля и этика накопления влияют на живопись Жена Вермеера взвешивает деньги: как торговля и этика накопления влияют на живопись

Глава из книги «Шляпа Вермеера. XVII век и рассвет глобального мира»

Forbes
Рыба моей мечты Рыба моей мечты

В России действительно много разнообразной рыбы и есть чем гордиться

Bones
«Я не провоцировала Сашу на выплески эмоций»: Дарья Урсуляк рассказала, как снималась шпионская драма «ГДР» «Я не провоцировала Сашу на выплески эмоций»: Дарья Урсуляк рассказала, как снималась шпионская драма «ГДР»

Дарья Урсуляк — о «ГДР», эмоциях на съемках и истории Горбачева

VOICE
Одевай VS надевай Одевай VS надевай

Ошибки в речи, которые выдают в тебе безграмотного человека

Лиза
Тысяча заводов – одно детище: самолет Тысяча заводов – одно детище: самолет

Невзрачные с виду детали – плоды труда заготовительно-штамповочного производства

Наука и техника
Любите друг друга Любите друг друга

Анна Меликян — о том, что роли никогда не приходят случайно

OK!
Пятиминутный путеводитель по китайскому Новому году: откуда пришел праздник, как правильно отмечать и почему нельзя есть кашу Пятиминутный путеводитель по китайскому Новому году: откуда пришел праздник, как правильно отмечать и почему нельзя есть кашу

В Китае Новый год уходит корнями в глубокую древность

Правила жизни
Крах идеала Крах идеала

Что такое красота? Универсальна ли она для всех?

Вокруг света
Здоровые перекусы. Главные правила и 9 лучших вариантов Здоровые перекусы. Главные правила и 9 лучших вариантов

Чем быстро перекусить без вреда для фигуры?

Лиза
Как открытие Америки изменило взгляды европейских ученых. Отрывок из книги историка Как открытие Америки изменило взгляды европейских ученых. Отрывок из книги историка

Историк Джеймс Поскетт пытается переосмыслить представления о вкладе в науку

СНОБ
Пирамида Дилтса: что это и как научиться правильно задавать себе вопросы Пирамида Дилтса: что это и как научиться правильно задавать себе вопросы

Техники, которые помогут определиться с поиском ответов на любые вопросы

Psychologies
Кундалини-йога приносит уникальную пользу мозгу Кундалини-йога приносит уникальную пользу мозгу

12-недельный курс кундалини-йоги принес испытуемым ряд ощутимых преимуществ

ТехИнсайдер
Белый дом Белый дом

Белый дом — очевидный для всего мира символ Америки

Дилетант
Быть боссом — опасно для здоровья! Вот почему деньги не стоят того Быть боссом — опасно для здоровья! Вот почему деньги не стоят того

Стресс на руководящей должности может сократить продолжительность жизни

ТехИнсайдер
Почему мы думаем, что не заслуживаем счастья: 6 причин Почему мы думаем, что не заслуживаем счастья: 6 причин

Откуда берется это ощущение — «я недостоин хорошей жизни/благополучия»?

Psychologies
AllGrip Select. Почему полный привод от Suzuki называют интеллектуальным? AllGrip Select. Почему полный привод от Suzuki называют интеллектуальным?

Что такое интеллектуальный полный привод у Suzuki?

4x4 Club
Убийца тенниса: как ненавистный пиклбол завоевал мир, спонсоров и Россию Убийца тенниса: как ненавистный пиклбол завоевал мир, спонсоров и Россию

Что такое пиклбол? И как он завоевал всемирную популярность?

Forbes
Процентом придется делиться Процентом придется делиться

Как заплатить налог с доходов по вкладам

Деньги
Палеогенетики впервые выявили древнего человека с синдромом Эдвардса Палеогенетики впервые выявили древнего человека с синдромом Эдвардса

Первый случай, когда синдром Эдвардса выявили у древнего человека

N+1
Суд идет. Какие фильмы были основаны на громких процессах Суд идет. Какие фильмы были основаны на громких процессах

Откуда взялось право «хранить молчание», как журналисты стали частью следствия?

СНОБ
«Всё просто: я не умею рисовать» «Всё просто: я не умею рисовать»

О первых пробах и съемках, наивности и мечтах — в интервью с Глафирой Глазуновой

OK!
IPS или OLED: какая матрица экрана телефона лучше IPS или OLED: какая матрица экрана телефона лучше

Чем отличаются IPS и OLED матрицы?

ТехИнсайдер
Новые французы Новые французы

Франция снова в гастрономическом тренде

Bones
Открыть в приложении