ИИ против безопасности: почему компании теряют данные через ChatGPT

ForbesБизнес

Дружелюбный инсайдер: как ИИ становится новым каналом утечек

Алексей Парфентьев

Фото Getty Images

Искусственный интеллект (ИИ) становится все более популярным каналом утечек данных. Согласно данным исследования Harmonic Security, 8,5% запросов сотрудников компаний к ИИ-сервисам содержат конфиденциальные сведения, а нейросеть при подготовке ответов учитывает не только текущий запрос, но и более ранние, сохраненные в базе данных, в том числе от других пользователей сервиса. Компании встают перед выбором: не использовать этот инструмент и терять конкурентные преимущества или допустить использование ИИ и рисковать конфиденциальными данными? Заместитель генерального директора по инновационной деятельности «СерчИнформ» Алексей Парфентьев напоминает об уже случившихся кейсах использования ИИ конфиденциальных данных и пробует разобраться в этой дилемме.

Персональные помощники

Количество обращений к ИИ-помощникам растет. Их используют для решения рутинных задач. Сотрудники с помощью ChatGPT и прочих генеративных ИИ-инструментов редактируют и создают изображения, пишут тексты, составляют планы, собирают прогнозы и пр. Преимущество ИИ-сервисов в том, что они быстро выдают готовое решение в нужном формате — диплом, пресс-релиз, оптимизированный программный код и т.п.

Чтобы получить максимально точный ответ, сотрудники «сгружают» в сервис корпоративную информацию: аналитику, документы, фрагменты кода, готовые программы, презентации и пр. По данным исследования Harmonic Security, сотрудники чаще всего загружают на обработку данные клиентов, информацию о сотрудниках, юридические и финансовые данные, данные для авторизации и конфиденциальный программный код. Так повышается качество ответа от ИИ, но страдает информационная безопасность компании.

ИИ делится секретами

Компания Samsung, одной из первых встроившая ChatGPT в свои бизнес-процессы, может считаться пионером и по утечкам корпоративных секретов через этот канал.

Одним из первых в 2023 году ноу-хау слил специалист отдела по исследованию полупроводников. Загружая данные в корпоративную базу, он столкнулся с проблемой, связанной с исходным кодом вводимой информации. Менеджер поручил чат-боту исправить капризный код. Так наработки Samsung пополнили базу данных американской Open AI и оказались доступными другим пользователям ChatGPT. Корейская компания проанализировала последствия, ввела ограничения на размер запроса к ChatGPT и попросила сотрудников следить за тем, что они загружают и что спрашивают у ИИ. Но утечки продолжились.

Следующая случилась в отделе разработок. Сотрудник решил проверить через ChatGPT качество кода созданной программы. В итоге код стал доступен не только конкурентам, но и попал в СМИ. Это нанесло удар по репутации и Samsung, и ChatGPT. Но и тогда компания от ИИ-помощника не отказалась. Ему поручили составить протокол корпоративного совещания. И вновь (никогда не было, и вот опять) информация стала частью базы знаний системы ИИ.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как превратить бывшее болото в тематический парк и привлечь в него тысячи туристов Как превратить бывшее болото в тематический парк и привлечь в него тысячи туристов

Как предпринимательница превратила любовь к сказам в успешный проект

Forbes
Космический аппарат «Вояджер-1» запустил резервные двигатели, отключенные 21 год назад Космический аппарат «Вояджер-1» запустил резервные двигатели, отключенные 21 год назад

Как инженеры запустили движители «Вояджера-1», молчавшие с 2004 года?

ТехИнсайдер
Как бизнесу нестыдно реагировать на негативные отзывы, опыт Ozon Travel Как бизнесу нестыдно реагировать на негативные отзывы, опыт Ozon Travel

Как бизнесу общаться с недовольными клиентами

Inc.
Агата Кристи, вооруженные каскадеры и мощные моторы: как работала сирийская «дорога Нэрнов» Агата Кристи, вооруженные каскадеры и мощные моторы: как работала сирийская «дорога Нэрнов»

История создания автобусного маршрута от Бейрута до Багдада братьями Нэрнами

ТехИнсайдер
Как начать переписку с девушкой, чтобы она точно ответила Как начать переписку с девушкой, чтобы она точно ответила

Лучшие заменители опостылевшего всем «Привет! Как дела?»

Maxim
Как выбрать брокера Как выбрать брокера

Как выбрать яхтенного брокера и избежать ошибок?

Y Magazine
Бондарчуки Бондарчуки

Кино как семейное дело: творческая династия Бондарчуков

Караван историй
Красная-красная смесь. Гидросистемы летательных аппаратов Красная-красная смесь. Гидросистемы летательных аппаратов

Как устроены гидросистемы в авиации — от цвета до принципов работы

Наука и техника
Ловушка стереотипов: пять страхов, которые мешают зумерам строить карьеру Ловушка стереотипов: пять страхов, которые мешают зумерам строить карьеру

Как зумерам справиться с пятью страхами, связанными с трудоустройством

Forbes
Отдых в стиле прованс Отдых в стиле прованс

Загородная дача в авторском прочтении французской классики

SALON-Interior
Садовые хитрости, проверенные временем Садовые хитрости, проверенные временем

Несколько рекомендаций, которые помогут вам в саду

КАНТРИ Русская азбука
Весенняя путина Весенняя путина

Свежий улов: на крючке кроссовер Bestune T90

Автопилот
Как выбрать кроссовки для спорта Как выбрать кроссовки для спорта

8 советов, которые помогут подобрать правильную обувь для тренировок

Лиза
Как мозг формирует привычки и почему от них сложно избавиться Как мозг формирует привычки и почему от них сложно избавиться

Мозг и привычки: причем тут дофамин и ошибки в предсказаниях?

ТехИнсайдер
5 самых странных (но прикольных) видов велоспорта: вы точно захотите попробовать 5 самых странных (но прикольных) видов велоспорта: вы точно захотите попробовать

Топ-5 самых необычных спортивных дисциплин с велосипедом

ТехИнсайдер
Маурицио Каттелан Маурицио Каттелан

Правила жизни художника Маурицио Каттелана

Правила жизни
Золото выглядит дорого Золото выглядит дорого

Бурный рост цен на золото создал благоприятные условия для золотодобычи в России

Монокль
Не потерять лицо Не потерять лицо

Впервые про пластическую хирургию я подумала довольно давно

Afternoon Seasons of life
Кто такой Томми Кэш — не победитель, но главная звезда «Евровидения» Кто такой Томми Кэш — не победитель, но главная звезда «Евровидения»

Что нужно знать о Томми Кэше — собрали в этом материале

Правила жизни
Женщины выбирают вокал: как гендер влияет на музыкальные предпочтения Женщины выбирают вокал: как гендер влияет на музыкальные предпочтения

Влияет ли пол на музыкальные предпочтения?

Forbes
Дачная палитра Дачная палитра

Как цвета растений на садовом участке влияет на тонус и настроение

Лиза
«Стоять на обочине с полным баком»: как скромность мешает карьерному росту «Стоять на обочине с полным баком»: как скромность мешает карьерному росту

Как работает профессиональная видимость и можно ли превратить ее в стратегию

Forbes
Сталь & честь Сталь & честь

Рыцарство не умерло, оно просто ждало своего часа

ТехИнсайдер
История Мадлен Астор, беременной молодой жены богача, которая выжила на «Титанике» История Мадлен Астор, беременной молодой жены богача, которая выжила на «Титанике»

Как беременной Мадлен Астор удалось выжить при крушении «Титаника»?

ТехИнсайдер
Исследование показало, сколько раз нужно заниматься сексом, чтобы снизить риск депрессии Исследование показало, сколько раз нужно заниматься сексом, чтобы снизить риск депрессии

Секс один-два раза в неделю может принести наибольшую психологическую пользу

Inc.
Твердый знак Твердый знак

Как выбрать камни для амулетов и украшений, чтобы не навредить себе и близким

Лиза
Рома Peeks Рома Peeks

Рома Peeks рисует порцию кидкорных ковров и раскрывает этимологию фамилии

Собака.ru
Мяч в кольце Мяч в кольце

Спортивные события второго года Великой Отечественной войны

Ведомости
Ловушки для трендов: как вовремя услышать сигналы рынка Ловушки для трендов: как вовремя услышать сигналы рынка

Как бизнесменам научиться самим улавливать тренд-сигналы

Forbes
Мама, ты меня не понимаешь! Мама, ты меня не понимаешь!

Как направить дочь по верному пути и при этом сохранить с ней контакт?

Лиза
Открыть в приложении