Как обеспечить приватность при использовании нейронных сетей?

ForbesHi-Tech

В приватном режиме: как обеспечить сохранность личных данных, используя нейросети

Иван Чижов

Фото Getty Images

Отсутствие приватности данных при использовании нейронных сетей — одна из ключевых проблематик на 2024 год, в первую очередь для финансового сектора, государственных информационных систем и медицинских организаций. Поэтому в ближайшее время будут активно развиваться методы обезличивания персональных данных для нейронных сетей как механизмы обеспечения приватности пользователей. Заместитель руководителя лаборатории криптографии по научной работе в компании «Криптонит» Иван Чижов рассуждает о важных задачах, которые стоят перед компаниями — разработчиками информационных систем, обрабатывающих персональные данные.

Задача 1: Обучение нейросетей на обезличенном массиве данных

Большинство информационных систем, которыми мы пользуемся, собирают статистику. Например, если это интернет-магазин, платформа собирает информацию, что и когда мы покупаем, сколько денег мы в среднем тратим и так далее. Потом нейронная сеть обучается на этих данных, и создается модель. Но проблема в том, что это — данные реальных пользователей, наши с вами. Зачастую такой набор информации позволяет идентифицировать конкретного человека. Поэтому одна из первых задач — обеспечить обучение нейросетей на зашифрованных данных.

Задача 2: Обеспечение анонимизации данных, поступающих в нейросеть

Представьте, что вы хотите обработать фотографию с помощью нейросети. Вы открываете приложение, загружаете свое фото и просите сервис выполнить задачу. Здесь возникает еще одна проблема: посылая запрос в систему, мы используем свои личные данные — фотографию. Но это безобидный пример. Теперь представьте, что это сервис для получения информации о состоянии вашего здоровья. Чтобы получить диагноз, вы посылаете свои анализы, снимки — некую чувствительную медицинскую информацию, которой вы бы не хотели делиться. Но как этими данными распорядится сервис? Не произойдет

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Какой должна быть яркость экрана смартфона, чтобы изображение всегда было хорошо видно Какой должна быть яркость экрана смартфона, чтобы изображение всегда было хорошо видно

Пиковая яркость — реальная характеристика или маркетинговый термин?

CHIP
Частое посещение пальмовых плантаций увеличило детскую смертность свинохвостых макаков Частое посещение пальмовых плантаций увеличило детскую смертность свинохвостых макаков

Смертность макак выше, если дети больше времени проводят на пальмовых плантациях

N+1
Потолстеть за новогодние праздники невозможно! Но почему тогда весы показывают плюс 5 килограмм? Потолстеть за новогодние праздники невозможно! Но почему тогда весы показывают плюс 5 килограмм?

Можно ли сильно потолстеть за короткий промежуток времени?

ТехИнсайдер
Оценка проектов развития территорий | Assessing Territorial Development Projects Оценка проектов развития территорий | Assessing Territorial Development Projects

Кейс Фонда целевого капитала «Наш Норильск»

Позитивные изменения
«Отберу у тебя ребенка»: что такое семейный киднеппинг и как ему противостоять «Отберу у тебя ребенка»: что такое семейный киднеппинг и как ему противостоять

Почему после разводов увеличивается число семейных киднеппингов?

Forbes
Не добивайте жертву: 5 запретных фраз Не добивайте жертву: 5 запретных фраз

Никогда не произносите эти фразы людям, которые столкнулись с насилием

Psychologies
Антиутопия про квартирный вопрос: как фильм «Кухня» показывает Лондон будущего Антиутопия про квартирный вопрос: как фильм «Кухня» показывает Лондон будущего

«Кухня» — фантастическая антиутопия о Лондоне будущего

Forbes
Какой тип шин подходит для путешествий? Какой тип шин подходит для путешествий?

Какие шины подходят именно вам, и какие задачи вы перед ними ставите?

4x4 Club
Лайфхаки, которые работают: как сделать так, чтобы очки на холоде не запотевали? Лайфхаки, которые работают: как сделать так, чтобы очки на холоде не запотевали?

Почему запотевают очки, можно ли с этим что-то сделать?

ТехИнсайдер
С каким шампанским ел ананасы Игорь Северянин С каким шампанским ел ананасы Игорь Северянин

Как появилось стихотворение Игоря Северянина про «ананасы в шампанском»

СНОБ
Квиддич, хоббихорсинг и метание ботинок: кто в ответе за необычные виды спорта Квиддич, хоббихорсинг и метание ботинок: кто в ответе за необычные виды спорта

Необычные федерации, которые хотят попасть в программу Олимпийских игр

Forbes
«Я самый умный»: почему мы так думаем — 4 причины «Я самый умный»: почему мы так думаем — 4 причины

Почему мы порой считаем, что интеллектуально лучше других?

Psychologies
Инженеры разобрались с искривлением морковки в холодильнике Инженеры разобрались с искривлением морковки в холодильнике

Морковка в холодильнике изгибается из-за потери влаги

N+1
Эпоха гиперавтоматизации: как высокотехнологичный бизнес повышает свою эффективность Эпоха гиперавтоматизации: как высокотехнологичный бизнес повышает свою эффективность

Как гиперавтоматизация меняет ландшафт современного бизнеса

ТехИнсайдер
Справились за 19 дней: как в СССР победили вспышку черной оспы Справились за 19 дней: как в СССР победили вспышку черной оспы

Как из-за вспышки оспы Москву закрыли на карантин, а врачи боролись с вирусом

ТехИнсайдер
О пользе секса и вреде (некоторых) гормонов: отрывок из книги «Все о груди» онколога Владимира Ивашкова О пользе секса и вреде (некоторых) гормонов: отрывок из книги «Все о груди» онколога Владимира Ивашкова

Как на молочную железу влияют секс, спорт и гормональные препараты?

Правила жизни
Вымершие калифорнийские гризли оказались в основном растительноядными Вымершие калифорнийские гризли оказались в основном растительноядными

Ошибочные представления об калифорнийских гризли привели к их вымиранию

N+1
Как расстаться с тем, кого больше не любишь: 13 шагов Как расстаться с тем, кого больше не любишь: 13 шагов

О чем стоит спросить себя и что сказать другому, если чувства угасли

Psychologies
Вопрос психологу: почему люди коллекционируют? Вопрос психологу: почему люди коллекционируют?

Всегда ли страсть к коллекционированию может считаться нормой?

Правила жизни
Сравнительный анализ характеристик комитета по устойчивому развитию и качества ESG-отчетности в Нигерии и Южной Африке Сравнительный анализ характеристик комитета по устойчивому развитию и качества ESG-отчетности в Нигерии и Южной Африке

Как оценивают качество устойчивого развития в Нигерии и Южной Африке?

Позитивные изменения
Комиссия Аграната Комиссия Аграната

В ноябре 1973 года пришло время понять, как нападение оказалось столь внезапным

Дилетант
В 2000-летних останках из Бразилии нашли ДНК бледной трепонемы В 2000-летних останках из Бразилии нашли ДНК бледной трепонемы

Ученые исследовали останки древних людей из памятника Жаботикаба-II

N+1
Зачем мы смотрим кулинарные шоу: 2 психологические причины Зачем мы смотрим кулинарные шоу: 2 психологические причины

Кулинарные шоу: увлекательные поглотители времени или полезные помощники?

Psychologies
Узнайте, если вы «полимат»! Вот что это такое и кого можно так называть Узнайте, если вы «полимат»! Вот что это такое и кого можно так называть

Вы более рациональный или интуитивный мыслитель?

ТехИнсайдер
Расчет для технологической безопасности Расчет для технологической безопасности

Как задействованы инвестиции в технологической безопасности корпораций

Монокль
Топ-5 самых честных книг о жизни в 80-90-е в России Топ-5 самых честных книг о жизни в 80-90-е в России

В топе собраны книги, которые в подробностях описывают 80-90-е

Maxim
Как в СССР изобрели беспохмельную водку Как в СССР изобрели беспохмельную водку

На закате Советского Союза профессор Брехман изобрел водку, уменьшавшую похмелье

Maxim
В ядре Меркурия идет железный снег В ядре Меркурия идет железный снег

Магнитное поле Меркурия формирует железный снег, выпадающий из мантии на ядро

ТехИнсайдер
Покупка пятого поколения Subaru Outback (2014-2019) Покупка пятого поколения Subaru Outback (2014-2019)

На что обратить внимание, покупая Subaru Outback (2014-2019)?

4x4 Club
12 способов повысить кровяное давление 12 способов повысить кровяное давление

Есть ли способ быстро поднять давление дома?

ТехИнсайдер
Открыть в приложении