ИИ против безопасности: почему компании теряют данные через ChatGPT

ForbesБизнес

Дружелюбный инсайдер: как ИИ становится новым каналом утечек

Алексей Парфентьев

Фото Getty Images

Искусственный интеллект (ИИ) становится все более популярным каналом утечек данных. Согласно данным исследования Harmonic Security, 8,5% запросов сотрудников компаний к ИИ-сервисам содержат конфиденциальные сведения, а нейросеть при подготовке ответов учитывает не только текущий запрос, но и более ранние, сохраненные в базе данных, в том числе от других пользователей сервиса. Компании встают перед выбором: не использовать этот инструмент и терять конкурентные преимущества или допустить использование ИИ и рисковать конфиденциальными данными? Заместитель генерального директора по инновационной деятельности «СерчИнформ» Алексей Парфентьев напоминает об уже случившихся кейсах использования ИИ конфиденциальных данных и пробует разобраться в этой дилемме.

Персональные помощники

Количество обращений к ИИ-помощникам растет. Их используют для решения рутинных задач. Сотрудники с помощью ChatGPT и прочих генеративных ИИ-инструментов редактируют и создают изображения, пишут тексты, составляют планы, собирают прогнозы и пр. Преимущество ИИ-сервисов в том, что они быстро выдают готовое решение в нужном формате — диплом, пресс-релиз, оптимизированный программный код и т.п.

Чтобы получить максимально точный ответ, сотрудники «сгружают» в сервис корпоративную информацию: аналитику, документы, фрагменты кода, готовые программы, презентации и пр. По данным исследования Harmonic Security, сотрудники чаще всего загружают на обработку данные клиентов, информацию о сотрудниках, юридические и финансовые данные, данные для авторизации и конфиденциальный программный код. Так повышается качество ответа от ИИ, но страдает информационная безопасность компании.

ИИ делится секретами

Компания Samsung, одной из первых встроившая ChatGPT в свои бизнес-процессы, может считаться пионером и по утечкам корпоративных секретов через этот канал.

Одним из первых в 2023 году ноу-хау слил специалист отдела по исследованию полупроводников. Загружая данные в корпоративную базу, он столкнулся с проблемой, связанной с исходным кодом вводимой информации. Менеджер поручил чат-боту исправить капризный код. Так наработки Samsung пополнили базу данных американской Open AI и оказались доступными другим пользователям ChatGPT. Корейская компания проанализировала последствия, ввела ограничения на размер запроса к ChatGPT и попросила сотрудников следить за тем, что они загружают и что спрашивают у ИИ. Но утечки продолжились.

Следующая случилась в отделе разработок. Сотрудник решил проверить через ChatGPT качество кода созданной программы. В итоге код стал доступен не только конкурентам, но и попал в СМИ. Это нанесло удар по репутации и Samsung, и ChatGPT. Но и тогда компания от ИИ-помощника не отказалась. Ему поручили составить протокол корпоративного совещания. И вновь (никогда не было, и вот опять) информация стала частью базы знаний системы ИИ.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Изучать или запрещать: почему весь мир так боится микропластика Изучать или запрещать: почему весь мир так боится микропластика

Насколько на самом деле опасен микропластик и нужно ли с ним бороться

Forbes
Миф о Гере Миф о Гере

В Красной Поляне Геру Митрош знают, кажется, все

Afternoon Seasons of life
Вы будете платить за уборку вместо арендатора: топ ошибок в договоре аренды коммерческой недвижимости Вы будете платить за уборку вместо арендатора: топ ошибок в договоре аренды коммерческой недвижимости

Как бизнесмены теряют деньги на аренде из-за банальных ошибок

Inc.
Вернуть по-хорошему Вернуть по-хорошему

Исторические диковинки других стран сейчас стали предметом споров в суде

RR Люкс.Личности.Бизнес.
Я вижу, о чем вы думаете Я вижу, о чем вы думаете

Как агенты ФБР читают людей

kiozk originals
Волна у нас дома Волна у нас дома

Что такое сёрфинг на искусственной волне

Новый очаг
Хтонь и ужас в красотах Абхазии: каким получился «Фишер. Затмение» Хтонь и ужас в красотах Абхазии: каким получился «Фишер. Затмение»

Первые две серии нового сезона «Фишер. Затмение»: чего ждать и к чему готовиться

Правила жизни
Как историк Ричард Бут вдохновляет создание букинистических городков по всему миру Как историк Ричард Бут вдохновляет создание букинистических городков по всему миру

Глава из книги Ким Онхо «Книжные магазины»

Forbes
7 неверных установок 7 неверных установок

Они накрепко засели у нас голове еще с детства – и сильно отравляют жизнь

Лиза
Не жизнь, а кино Не жизнь, а кино

Путешествуем по России с героями популярной киносаги «Последний богатырь»

Лиза
Как Йоко Оно вписала свое имя в историю, несмотря на ненависть фанатов The Beatles Как Йоко Оно вписала свое имя в историю, несмотря на ненависть фанатов The Beatles

Творческий путь Йоко Оно и ее знаковые работы

Forbes
Афганская эпопея: оценки сегодняшнего дня Афганская эпопея: оценки сегодняшнего дня

Об условиях, в которых принимались решения о вводе и выводе войск из Афганистана

Монокль
Homo uillaris Homo uillaris

Человек дачный: эта фанатично увлеченная порода людей легкоузнаваема

КАНТРИ Русская азбука
VR, алгоритмы Netflix и даже ChatGPT: 5 книг, которые предсказали современные ИИ-технологии VR, алгоритмы Netflix и даже ChatGPT: 5 книг, которые предсказали современные ИИ-технологии

Книги, которыми (возможно) вдохновлялись Сэм Альтман, Стив Джобс и Билл Гейтс

Inc.
Любовь под пальмами Любовь под пальмами

Как отдохнуть, набраться сил и укрепить отношения в совместном отпуске

Добрые советы
Как побороть тягу к еде: новое мнение ученых Как побороть тягу к еде: новое мнение ученых

Секрет победы над куском торта может заключаться в следующем… съесть этот кусок!

ТехИнсайдер
На ремонте На ремонте

Почему обустройство квартиры все реже доверяют профессионалам

Деньги
Алексей Осадчий: «Один из самых сложных вызовов — интерпретация активности мозга» Алексей Осадчий: «Один из самых сложных вызовов — интерпретация активности мозга»

Как работают интерфейсы «мозг — компьютер», сможем ли мы лечить деменцию?

РБК
В Финляндии стали использовать избыточное тепло дата-центров для отопления В Финляндии стали использовать избыточное тепло дата-центров для отопления

Дата-центр снабжает финский город теплом уже около десяти лет

Inc.
Свежая ягода — круглый год Свежая ягода — круглый год

Как функционирует круглогодичный комплекс по выращиванию ягод в Ставрополье

Агроинвестор
Среда для жизни Среда для жизни

Рука об руку: как благоустроить общественные пространства вместе с жителями?

Ведомости
Не наступить на грабли Не наступить на грабли

Базовый набор инструментов для дачи: как правильно выбрать и хранить

КАНТРИ Русская азбука
Следует ли вам чистить зубы до или после завтрака? Ученые наконец-то разрешили спор Следует ли вам чистить зубы до или после завтрака? Ученые наконец-то разрешили спор

Если дело доходит до утренней чистки зубов, когда это нужно делать?

ТехИнсайдер
Астрономы отыскали удивительно развитую перемычку у спиральной галактики в ранней Вселенной Астрономы отыскали удивительно развитую перемычку у спиральной галактики в ранней Вселенной

Астрономы обнаружили у галактики J0107a необычно развитую центральную перемычку

N+1
Сталинская трасса: как самолеты перегоняли из Америки в СССР в годы Второй мировой войны Сталинская трасса: как самолеты перегоняли из Америки в СССР в годы Второй мировой войны

Почти 15 тысяч самолетов были поставлены в СССР по ленд-лизу в годы ВОВ. Но как?

ТехИнсайдер
Uber в образовании Uber в образовании

Может ли искусственный интеллект заменить учителя?

ТехИнсайдер
Море Белое Море Белое

Биостанция как остров… Остров воспоминаний и теперешней жизни

Afternoon Seasons of life
Акцент на глаза Акцент на глаза

Выбираем патчи для глаз на все случаи жизни

Лиза
Воробьевы годы Воробьевы годы

«Мы прошли путь от поверхностных историй про бандитов к человеческой душе»

Men Today
Дела сердечные: как современный ритм жизни влияет на риск возникновения инфаркта Дела сердечные: как современный ритм жизни влияет на риск возникновения инфаркта

Какие привычки бьют по сердцу сильнее наследственности?

Правила жизни
Открыть в приложении