ИИ против безопасности: почему компании теряют данные через ChatGPT

ForbesБизнес

Дружелюбный инсайдер: как ИИ становится новым каналом утечек

Алексей Парфентьев

Фото Getty Images

Искусственный интеллект (ИИ) становится все более популярным каналом утечек данных. Согласно данным исследования Harmonic Security, 8,5% запросов сотрудников компаний к ИИ-сервисам содержат конфиденциальные сведения, а нейросеть при подготовке ответов учитывает не только текущий запрос, но и более ранние, сохраненные в базе данных, в том числе от других пользователей сервиса. Компании встают перед выбором: не использовать этот инструмент и терять конкурентные преимущества или допустить использование ИИ и рисковать конфиденциальными данными? Заместитель генерального директора по инновационной деятельности «СерчИнформ» Алексей Парфентьев напоминает об уже случившихся кейсах использования ИИ конфиденциальных данных и пробует разобраться в этой дилемме.

Персональные помощники

Количество обращений к ИИ-помощникам растет. Их используют для решения рутинных задач. Сотрудники с помощью ChatGPT и прочих генеративных ИИ-инструментов редактируют и создают изображения, пишут тексты, составляют планы, собирают прогнозы и пр. Преимущество ИИ-сервисов в том, что они быстро выдают готовое решение в нужном формате — диплом, пресс-релиз, оптимизированный программный код и т.п.

Чтобы получить максимально точный ответ, сотрудники «сгружают» в сервис корпоративную информацию: аналитику, документы, фрагменты кода, готовые программы, презентации и пр. По данным исследования Harmonic Security, сотрудники чаще всего загружают на обработку данные клиентов, информацию о сотрудниках, юридические и финансовые данные, данные для авторизации и конфиденциальный программный код. Так повышается качество ответа от ИИ, но страдает информационная безопасность компании.

ИИ делится секретами

Компания Samsung, одной из первых встроившая ChatGPT в свои бизнес-процессы, может считаться пионером и по утечкам корпоративных секретов через этот канал.

Одним из первых в 2023 году ноу-хау слил специалист отдела по исследованию полупроводников. Загружая данные в корпоративную базу, он столкнулся с проблемой, связанной с исходным кодом вводимой информации. Менеджер поручил чат-боту исправить капризный код. Так наработки Samsung пополнили базу данных американской Open AI и оказались доступными другим пользователям ChatGPT. Корейская компания проанализировала последствия, ввела ограничения на размер запроса к ChatGPT и попросила сотрудников следить за тем, что они загружают и что спрашивают у ИИ. Но утечки продолжились.

Следующая случилась в отделе разработок. Сотрудник решил проверить через ChatGPT качество кода созданной программы. В итоге код стал доступен не только конкурентам, но и попал в СМИ. Это нанесло удар по репутации и Samsung, и ChatGPT. Но и тогда компания от ИИ-помощника не отказалась. Ему поручили составить протокол корпоративного совещания. И вновь (никогда не было, и вот опять) информация стала частью базы знаний системы ИИ.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Напиши мне, напиши: как сервисы e-mail будут бороться с мессенджерами Напиши мне, напиши: как сервисы e-mail будут бороться с мессенджерами

Как сервисы электронной почты будут удерживать пользователей?

Forbes
Сталинская трасса: как самолеты перегоняли из Америки в СССР в годы Второй мировой войны Сталинская трасса: как самолеты перегоняли из Америки в СССР в годы Второй мировой войны

Почти 15 тысяч самолетов были поставлены в СССР по ленд-лизу в годы ВОВ. Но как?

ТехИнсайдер
Пережить тайфун, пандемию, санкции и заработать на гребешках: история одной морской фермы во Владивостоке Пережить тайфун, пандемию, санкции и заработать на гребешках: история одной морской фермы во Владивостоке

Как владелец морской фермы собрал все форс-мажоры и при этом сохранил бизнес?

Inc.
В космосе обнаружили разрушительное явление, которому нет равных по масштабу В космосе обнаружили разрушительное явление, которому нет равных по масштабу

В просторах Вселенной разворачиваются драмы поистине космического масштаба

Inc.
Чем известен убитый союзник Дональда Трампа Чарли Кирк Чем известен убитый союзник Дональда Трампа Чарли Кирк

Мученик-трампист Чарли Кирк был консерватором, популярным среди молодежи

Ведомости
Что случилось с семьей Гитлера и где живут потомки фашиста? Интересные факты Что случилось с семьей Гитлера и где живут потомки фашиста? Интересные факты

Почему родственники Гитлера решили навсегда прервать зловещую фамилию?

ТехИнсайдер
«Эхо победы в Лондоне-2012 до сих пор работает» «Эхо победы в Лондоне-2012 до сих пор работает»

Сергей Тетюхин о киногеничности олимпийского финала и новом поколении игроков

Ведомости
Шимпанзе способны оказывать медицинскую помощь друг другу Шимпанзе способны оказывать медицинскую помощь друг другу

Приматы не только залечивают собственные раны, но и помогают сородичам

ТехИнсайдер
Как бренд кроссовок Hovers запустил производство в Москве и почему он не работает с маркетплейсами Как бренд кроссовок Hovers запустил производство в Москве и почему он не работает с маркетплейсами

Почему запустить бренд обуви в России сложнее, чем локальную марку одежды?

Inc.
Советский феникс Советский феникс

Как разрушенная страна восстала из пепла за одну героическую пятилетку

Монокль
Кошка с собой Кошка с собой

Что стоит предусмотреть перед совместным отпуском с домашней кошкой

Новый очаг
О наследии Стефана Пермского О наследии Стефана Пермского

Кто может считаться первым исследователем истории и культуры коми народа?

Знание – сила
Смертельно опасный тренд TikTok: почему мужчины бреют ресницы и чем это грозит? Смертельно опасный тренд TikTok: почему мужчины бреют ресницы и чем это грозит?

Для чего человеку нужны ресницы и что будет, если их сбрить?

Inc.
Секреты мотивации Секреты мотивации

Как вернуть мотивацию без изнурительной работы над собой?

Лиза
Вселенная распадется через 10^78 лет, это гораздо быстрее предыдущих оценок Вселенная распадется через 10^78 лет, это гораздо быстрее предыдущих оценок

Вселенная распадается гораздо быстрее, чем считалось ранее

ТехИнсайдер
Лечим не то не тем Лечим не то не тем

Почему нормы такси по 580-ФЗ плохи для пассажиров и перевозчиков?

Монокль
Сплю и вижу Сплю и вижу

Учимся понимать и расшифровывать свои ночные грезы

Лиза
Cтенка на стенку Cтенка на стенку

Чем стрит-арт отличается от вандализма?

Правила жизни
Елена Яковлева: «Я никогда не бываю довольна собой» Елена Яковлева: «Я никогда не бываю довольна собой»

В основном артисты — ленивые люди, они лучше попридержат свои эмоции

Коллекция. Караван историй
Битва куликова Битва куликова

…Бойцовые собаки, бойцовые петухи, бойцовые кулики. Вы знаете о последних?

Наука и жизнь
Дети – лучшие люди в мире Дети – лучшие люди в мире

Отрывок из книги «Всегда рядом» детского доктора Леонида Рошаля

Лиза
Янская стоянка. Палеолитический человек за полярным кругом Янская стоянка. Палеолитический человек за полярным кругом

Янская стоянка — самые северные следы Homo sapiens в Арктике

Наука и техника
Киловатты комфорта Киловатты комфорта

AVATR 11: электромощность, переведённая в комфорт

Y Magazine
Больше не колется: 5 способов сделать льняную одежду мягче Больше не колется: 5 способов сделать льняную одежду мягче

Как сделать льняные вещи мягче и избавиться от неприятных ощущений

ТехИнсайдер
Незнакомые символы Незнакомые символы

Зачем клубам – даже очень популярным – нужен редизайн эмблемы

Ведомости
На ремонте На ремонте

Почему обустройство квартиры все реже доверяют профессионалам

Деньги
Среда для жизни Среда для жизни

Рука об руку: как благоустроить общественные пространства вместе с жителями?

Ведомости
Как эффект плацебо обманывает мозг, чтобы облегчить боль Как эффект плацебо обманывает мозг, чтобы облегчить боль

Как эффект плацебо снижает восприятие боли?

ТехИнсайдер
В своем ритме В своем ритме

Элегантный современный интерьер, где соединились прошлое и настоящее

SALON-Interior
Откуда берутся деньги Откуда берутся деньги

Как доллар превратился в глобальное оружие

Деньги
Открыть в приложении