Как обеспечить приватность при использовании нейронных сетей?

ForbesHi-Tech

В приватном режиме: как обеспечить сохранность личных данных, используя нейросети

Иван Чижов

Фото Getty Images

Отсутствие приватности данных при использовании нейронных сетей — одна из ключевых проблематик на 2024 год, в первую очередь для финансового сектора, государственных информационных систем и медицинских организаций. Поэтому в ближайшее время будут активно развиваться методы обезличивания персональных данных для нейронных сетей как механизмы обеспечения приватности пользователей. Заместитель руководителя лаборатории криптографии по научной работе в компании «Криптонит» Иван Чижов рассуждает о важных задачах, которые стоят перед компаниями — разработчиками информационных систем, обрабатывающих персональные данные.

Задача 1: Обучение нейросетей на обезличенном массиве данных

Большинство информационных систем, которыми мы пользуемся, собирают статистику. Например, если это интернет-магазин, платформа собирает информацию, что и когда мы покупаем, сколько денег мы в среднем тратим и так далее. Потом нейронная сеть обучается на этих данных, и создается модель. Но проблема в том, что это — данные реальных пользователей, наши с вами. Зачастую такой набор информации позволяет идентифицировать конкретного человека. Поэтому одна из первых задач — обеспечить обучение нейросетей на зашифрованных данных.

Задача 2: Обеспечение анонимизации данных, поступающих в нейросеть

Представьте, что вы хотите обработать фотографию с помощью нейросети. Вы открываете приложение, загружаете свое фото и просите сервис выполнить задачу. Здесь возникает еще одна проблема: посылая запрос в систему, мы используем свои личные данные — фотографию. Но это безобидный пример. Теперь представьте, что это сервис для получения информации о состоянии вашего здоровья. Чтобы получить диагноз, вы посылаете свои анализы, снимки — некую чувствительную медицинскую информацию, которой вы бы не хотели делиться. Но как этими данными распорядится сервис? Не произойдет

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Почему компьютер постоянно перегревается? 7 способов охладить устройство Почему компьютер постоянно перегревается? 7 способов охладить устройство

Есть ли способы охладить лэптоп?

ТехИнсайдер
Мастера маскировки Мастера маскировки

Козодои, вертишейки и гага: обычные птицы, которых так сложно найти в лесу

Наука и жизнь
Упущенные возможности и страх переговоров о зарплате: о чём чаще всего жалеют на работе Упущенные возможности и страх переговоров о зарплате: о чём чаще всего жалеют на работе

О чем мужчины и женщины жалеют на своей работе?

VC.RU
Реки текли на Марсе сотни миллионов лет, но и тогда климат был как в пустыне Атакама Реки текли на Марсе сотни миллионов лет, но и тогда климат был как в пустыне Атакама

Поток рек на Марсе был непостоянный: они то пересыхали, то текли снова

ТехИнсайдер
Свитчи для механической клавиатуры: что это такое, какими бывают и какие выбрать Свитчи для механической клавиатуры: что это такое, какими бывают и какие выбрать

Что такое свитчи и почему стоит обращать на них внимание при выборе "клавы"

CHIP
Ученые развеяли мифы о похмелье: 5 главных фактов Ученые развеяли мифы о похмелье: 5 главных фактов

Как избежать похмелья?

ТехИнсайдер
3 самые странные и необычные профессии на железной дороге: спорим, вы засмеетесь 3 самые странные и необычные профессии на железной дороге: спорим, вы засмеетесь

Нужно ли учиться, чтобы стать заталкивателем пассажиров?

ТехИнсайдер
Лучшие фильмы ужасов с рейтингом IMDb выше 7, основанные на реальных событиях Лучшие фильмы ужасов с рейтингом IMDb выше 7, основанные на реальных событиях

Фильмы, от просмотра которых по всему телу побегут мурашки

ТехИнсайдер
С верой в себя С верой в себя

У твоего возлюбленного заниженная самооценка: признаки, чем опасно и как помочь

Лиза
Тайна одной профессии. Кто такие заклинатели червей и чем они напоминают охотников на вампиров Тайна одной профессии. Кто такие заклинатели червей и чем они напоминают охотников на вампиров

Глава из книги-расследования о природе поведения разных живых существ

СНОБ
6 уроков долголетия от 93-летнего бизнесмена и 4-кратного чемпиона по гребле. У него здоровье как у 30-летнего мужчины 6 уроков долголетия от 93-летнего бизнесмена и 4-кратного чемпиона по гребле. У него здоровье как у 30-летнего мужчины

Какие научно обоснованные способы позволяют продлить жизнь и оставаться в форме

Inc.
ТОП-7 лучших хэтчбеков: характеристики и фото ТОП-7 лучших хэтчбеков: характеристики и фото

Lada Granta, JAC JS3, Livan X3 Pro и Москвич 6 попали в список лучших хэтчбеков

РБК
Почему мы не смеемся, когда щекочем сами себя: любопытный факт о нашем теле Почему мы не смеемся, когда щекочем сами себя: любопытный факт о нашем теле

Почему люди боятся щекотки?

ТехИнсайдер
Я — сноб: художник Анатолий Akue Я — сноб: художник Анатолий Akue

Художник Анатолий Akue — о рисовании без цели и собачьей шерсти

СНОБ
Металлический привкус во рту: что вызывает это странное ощущение Металлический привкус во рту: что вызывает это странное ощущение

Чувствуете на языке вкус металла? Вот почему он может возникать

ТехИнсайдер
«Будущее как на ладони» «Будущее как на ладони»

«Эта вывеска привлекла мое внимание своей наглостью...» – рассказ Игоря Харичева

Знание – сила
Как поднять настроение: 11 способов, советы психолога Как поднять настроение: 11 способов, советы психолога

Как быстро и надолго поднять себе настроение, а какие способы нерабочие?

РБК
Чем лучше снимать стресс: водкой, вином или пивом? Чем лучше снимать стресс: водкой, вином или пивом?

Какие процессы происходят в организме после употребления алкогольных напитков?

Psychologies
«Ешь, когда голоден»: как перейти на интуитивное питание «Ешь, когда голоден»: как перейти на интуитивное питание

В чем преимущества интуитивного питания и как на него перейти?

Psychologies
Полина и Эюб Полина и Эюб

Полина Рафеева и Эюб Фараджев — молодые артисты Театра имени Вахтангова

OK!
С каким шампанским ел ананасы Игорь Северянин С каким шампанским ел ананасы Игорь Северянин

Как появилось стихотворение Игоря Северянина про «ананасы в шампанском»

СНОБ
Низкие дозы кальция предотвратили преэклампсию не хуже высоких Низкие дозы кальция предотвратили преэклампсию не хуже высоких

Прием 500 миллиграмм кальция тоже профилактирует преэклампсию у беременных

N+1
Чистота — залог похода: как сделать мыло из подручных средств Чистота — залог похода: как сделать мыло из подручных средств

Как сделать мыло в походных условиях, которое отмоет котелок

ТехИнсайдер
«Юг Руси» слил масло «Юг Руси» слил масло

Одна из крупнейших сделок последних лет в АПК — продажа бизнеса «Юга Руси»

Агроинвестор
5 приложений, которые помогут начать питаться осознанно: подборка от нейропсихолога 5 приложений, которые помогут начать питаться осознанно: подборка от нейропсихолога

Приложения для тренировки сознательного пищевого поведения

Psychologies
Город-хоровод Город-хоровод

Улан-Удэ в едином танце закружил мистику, духовные традиции и буузы

Лиза
Чай матча: какой на вкус модный напиток и как его правильно заваривать Чай матча: какой на вкус модный напиток и как его правильно заваривать

Даже сейчас некоторые люди задаются вопросом: «Что же такое матча?»

ТехИнсайдер
5 оттенков лака для ногтей, которые хорошо выглядят даже на пожилых руках: вечные цвета, не выходящие из моды 5 оттенков лака для ногтей, которые хорошо выглядят даже на пожилых руках: вечные цвета, не выходящие из моды

Сегодня красивый маникюр доступен женщинам в любом возрасте. Вот несколько

VOICE
Что такое резонатор в машине, для чего нужен и как устроен Что такое резонатор в машине, для чего нужен и как устроен

Все о резонаторе: где стоит, для чего нужен, можно ли починить

РБК
«Расстались, но живем вместе»: 6 советов бывшим партнерам «Расстались, но живем вместе»: 6 советов бывшим партнерам

После развода вы вынуждены делить кров с бывшим партнером. Как пережить это?

Psychologies
Открыть в приложении