ИИ против безопасности: почему компании теряют данные через ChatGPT

ForbesБизнес

Дружелюбный инсайдер: как ИИ становится новым каналом утечек

Алексей Парфентьев

Фото Getty Images

Искусственный интеллект (ИИ) становится все более популярным каналом утечек данных. Согласно данным исследования Harmonic Security, 8,5% запросов сотрудников компаний к ИИ-сервисам содержат конфиденциальные сведения, а нейросеть при подготовке ответов учитывает не только текущий запрос, но и более ранние, сохраненные в базе данных, в том числе от других пользователей сервиса. Компании встают перед выбором: не использовать этот инструмент и терять конкурентные преимущества или допустить использование ИИ и рисковать конфиденциальными данными? Заместитель генерального директора по инновационной деятельности «СерчИнформ» Алексей Парфентьев напоминает об уже случившихся кейсах использования ИИ конфиденциальных данных и пробует разобраться в этой дилемме.

Персональные помощники

Количество обращений к ИИ-помощникам растет. Их используют для решения рутинных задач. Сотрудники с помощью ChatGPT и прочих генеративных ИИ-инструментов редактируют и создают изображения, пишут тексты, составляют планы, собирают прогнозы и пр. Преимущество ИИ-сервисов в том, что они быстро выдают готовое решение в нужном формате — диплом, пресс-релиз, оптимизированный программный код и т.п.

Чтобы получить максимально точный ответ, сотрудники «сгружают» в сервис корпоративную информацию: аналитику, документы, фрагменты кода, готовые программы, презентации и пр. По данным исследования Harmonic Security, сотрудники чаще всего загружают на обработку данные клиентов, информацию о сотрудниках, юридические и финансовые данные, данные для авторизации и конфиденциальный программный код. Так повышается качество ответа от ИИ, но страдает информационная безопасность компании.

ИИ делится секретами

Компания Samsung, одной из первых встроившая ChatGPT в свои бизнес-процессы, может считаться пионером и по утечкам корпоративных секретов через этот канал.

Одним из первых в 2023 году ноу-хау слил специалист отдела по исследованию полупроводников. Загружая данные в корпоративную базу, он столкнулся с проблемой, связанной с исходным кодом вводимой информации. Менеджер поручил чат-боту исправить капризный код. Так наработки Samsung пополнили базу данных американской Open AI и оказались доступными другим пользователям ChatGPT. Корейская компания проанализировала последствия, ввела ограничения на размер запроса к ChatGPT и попросила сотрудников следить за тем, что они загружают и что спрашивают у ИИ. Но утечки продолжились.

Следующая случилась в отделе разработок. Сотрудник решил проверить через ChatGPT качество кода созданной программы. В итоге код стал доступен не только конкурентам, но и попал в СМИ. Это нанесло удар по репутации и Samsung, и ChatGPT. Но и тогда компания от ИИ-помощника не отказалась. Ему поручили составить протокол корпоративного совещания. И вновь (никогда не было, и вот опять) информация стала частью базы знаний системы ИИ.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Школа для элиты: как выпускник Оксфорда зарабатывает на обучении детей миллионеров Школа для элиты: как выпускник Оксфорда зарабатывает на обучении детей миллионеров

Основатель EdEra School: 360 млн выручки на образовании для состоятельных

Forbes
Разделяй и властвуй Разделяй и властвуй

7 необычных идей для зонирования в маленькой квартире

Лиза
Почему важно вовремя менять модель управления Почему важно вовремя менять модель управления

Как уметь в нужный момент менять управленческую модель

Forbes
ИИскусство: кому принадлежат авторские права на творчество нейросетей ИИскусство: кому принадлежат авторские права на творчество нейросетей

О деликатной природе авторского права в мире победившего ИИ

Forbes
Как нас обманывает Disney: чем на самом деле заканчиваются популярные детские сказки Как нас обманывает Disney: чем на самом деле заканчиваются популярные детские сказки

Почти у каждой сказки, которую вы читали в детстве, есть версия 18+...

ТехИнсайдер
Регионы призовут к ответу Регионы призовут к ответу

Почему регионы не достигли показателей строительства инфраструктурных проектов

Ведомости
От винта! От винта!

Как автомобили научили летать

Деньги
Вселенная распадется через 10^78 лет, это гораздо быстрее предыдущих оценок Вселенная распадется через 10^78 лет, это гораздо быстрее предыдущих оценок

Вселенная распадается гораздо быстрее, чем считалось ранее

ТехИнсайдер
Новые гибкие актуаторы позволили колесному роботу трансформироваться в квадрокоптер Новые гибкие актуаторы позволили колесному роботу трансформироваться в квадрокоптер

Инженеры разработали гибкие актуаторы, которые могут плавно деформироваться

N+1
«Женитьба»: женское несчастье «Женитьба»: женское несчастье

Евгений Марчелли поставил в Театре Моссовета знаменитую пьесу Гоголя

Ведомости
Флаг Ватикана на Олимпиаде: какое спортивное наследство досталось новому папе Флаг Ватикана на Олимпиаде: какое спортивное наследство досталось новому папе

Какое наследство в области спорта получил Лев XIV

Forbes
Павел Воронин: «В ближайшие три года ИИ-решения начнут приносить реальную экономию бизнесу» Павел Воронин: «В ближайшие три года ИИ-решения начнут приносить реальную экономию бизнесу»

Гендиректор МТС Web Services Павел Воронин — об автоматизации и нейросетях

РБК
Сталь & честь Сталь & честь

Рыцарство не умерло, оно просто ждало своего часа

ТехИнсайдер
Исторические сведения о сказочных берендеях Исторические сведения о сказочных берендеях

Легендами о лесном царстве берендеев вдохновлялись и Жуковский, и Островский

Знание – сила
Автопророки Автопророки

На Шанхайском автосалоне производители попробовали заглянуть в будущее

ТехИнсайдер
Путь ради ребенка: как Ада Блэкджек одна выживала в экспедиции на острове Врангеля Путь ради ребенка: как Ада Блэкджек одна выживала в экспедиции на острове Врангеля

57 дней в одиночестве: невероятная история Ады Блэкджек

Forbes
Свободный полет Свободный полет

Константин Хабенский всё больше увлечен режиссурой. И экспериментом

OK!
Спокоен как самурай: как японская философия помогает выжить в трудные времена Спокоен как самурай: как японская философия помогает выжить в трудные времена

Что помогает японцам принимать неопределенность?

Forbes
Локализация такси: что останется от отрасли? Локализация такси: что останется от отрасли?

Почему локализации машин такси затормозит таксомоторную отрасль

Монокль
Напитки с плюсом Напитки с плюсом

Почему растет рынок функциональных продуктов

Агроинвестор
Против взлома есть приемы Против взлома есть приемы

Как защитить свой аккаунт на госуслугах

Лиза
Как разглядеть планету в далекой галактике? Как разглядеть планету в далекой галактике?

Сначала — предположения, потом — тысячи подтверждений: как ищут экзопланеты

Наука и техника
Маршрут построен Маршрут построен

Как экономить на поездках в метро в разных городах России

Лиза
Я работаю мамой Я работаю мамой

Валентина Красникова, мама 17 детей, о семье и хобби

Лиза
Цветок троллей Цветок троллей

Купальница европейская: когда одна стоит, и то мимо не пройдёшь

Наука и жизнь
Болотинг Болотинг

Зачем люди ходят по болотам и какие красоты там можно увидеть?

Новый очаг
Как выбрать кроссовки для спорта Как выбрать кроссовки для спорта

8 советов, которые помогут подобрать правильную обувь для тренировок

Лиза
Вымереть обратно Вымереть обратно

Пророчество фильма «Парк юрского периода»: можно ли воссоздать вымершие виды

Вокруг света
Кино по правилам и без Кино по правилам и без

Фильмы, создатели которых не побоялись нарушить заданные стандарты

Правила жизни
Кино привезли Кино привезли

Сколько стоили импортные фильмы России

Деньги
Открыть в приложении