OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT

ForbesHi-Tech

И ты, бот: почему в утечке данных пользователей ChatGPT нет ничего удивительного

Роман Рожков

Фото Gabby Jones / Bloomberg via Getty Images

На минувшей неделе компания OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT. Из-за сбоя некоторые пользователи могли видеть чужие сообщения, а также имена, фамилии, электронную почту и платежную информацию платных подписчиков сервиса. Forbes опросил российских участников рынка и специалистов в области кибербезопасности об этой утечке, о том, что они думают об этом происшествии и как это может повлиять на их дальнейшую работу с использованием ChatGPT.

Бот так история

20 марта OpenAI была вынуждена временно отключить ChatGPT из-за «ошибки в работе библиотеки с открытым исходным кодом», которая позволила некоторым пользователям видеть сообщения других людей, общавшихся с чат-ботом. Инцидент стал публичным после того, как пользователи Reddit начали публиковать скриншоты из ChatGPT, на которых были видны заголовки и первые сообщения активных чатов других пользователей. По данным издания Engadget, сервис не работал около 10 часов.

Расследование инцидента показало, что скомпрометированной могла оказаться и личная информация некоторых платных подписчиков сервиса, говорится в сообщении OpenAI: «За несколько часов до того, как мы отключили ChatGPT в понедельник, некоторые пользователи могли видеть имя и фамилию других активных пользователей, их емейлы, платежные адреса, последние четыре цифры кредитных карт и сроки действия кредитных карт».

В компании заверили, что утечка коснулась только 1,2% подписчиков ChatGPT Plus, а уязвимость была устранена. «Мы считаем, что число пользователей, чьи данные действительно были раскрыты кому-то другому, крайне мало. <...> Мы уведомили затронутых пользователей о том, что их платежная информация могла быть раскрыта. Мы уверены в отсутствии рисков для данных пользователей», — заявили в OpenAI.

Гендиректор компании Сэм Олтмэн рассказал о «значительной проблеме в работе ChatGPT» в среду, 22 марта, на своей странице в Twitter (заблокирован в России). Он сообщил, что пользователи временно потеряют доступ к истории сообщений, добавив, что разработчики «чувствуют себя ужасно» из-за произошедшего.

Угроза для бизнеса

В России уже есть немало компаний, которые начали использовать ChatGPT. «Сервис помогает им создавать маркетинговые тексты, для чего в ChatGPT на сервер в Америку, где запущена нейросеть, передаются данные — персональные и коммерческие. Что с ними происходит дальше, знает только OpenAI», — рассуждает гендиректор Smart Engines Владимир Арлазаров. По его мнению, бизнесу следует учитывать, что ChatGPT и подобные ей нейросети создают новые угрозы.

Forbes опросил участников рынка, использующих ChatGPT в своей работе, что они думают об утечке и не боятся ли, что данные их клиентов могут быть скомпрометированы.

Глеб Обломский, директор по продуктам разработчика решений на базе разговорного ИИ Just AI:

«Сама по себе конкретно эта утечка — не утечка данных логов работы модели и тех запросов, которые в нее отправляли, а утечка подписчиков, тех, кто непосредственно регистрировался в Open AI для работы. Если верить официальной информации, логи работы и данные, которые передавались в процессе работы в СhatGPT, не утекали.

Но есть намного более серьезный риск — передача данных, в том числе персональных и конфиденциальных, в закрытую и сложную модель, размещенную в облаке. Как будут использоваться эти данные и насколько создатели модели контролируют их использование — неизвестно. Поэтому я бы не рекомендовал строить решения, которые предполагают передачу персональных данных или чувствительной информации в модели, размещенной в облаке, и использовать такие решения.

Для разработчиков решений с точки зрения создания рабочих и надежных решений я бы смотрел на open source LLM модели, которые могут быть развернуты в контуре заказчика и на которых можно построить намного более контролируемый процесс обработки данных.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Осторожно, мультики: что не так с диснеевскими героями Осторожно, мультики: что не так с диснеевскими героями

Вместе с психотерапевтом разбираемся в скрытых смыслах диснеевских историй

Psychologies
Идеальный баланс Идеальный баланс

Основной особенностью этого интерьера стала его многослойность

SALON-Interior
Продолжение истории о подростке с болезненной привязанностью к смартфону Продолжение истории о подростке с болезненной привязанностью к смартфону

Почему современные подростки так привязаны к своим телефонам?

СНОБ
Неперерабатываемая пластика Неперерабатываемая пластика

Алексей Каллима: искусство мимикрии

Weekend
Космос близко Космос близко

Как попасть на Байконур и увидеть запуск ракеты в космос

Отдых в России
Глава AB InBev Efes Ораз Дурдыев — Forbes: «Неучтенный рынок пива вырос до 15%» Глава AB InBev Efes Ораз Дурдыев — Forbes: «Неучтенный рынок пива вырос до 15%»

Как пивоваренный гигант AB InBev Efes работает в новых условиях?

Forbes
«Лишний»: что такое моббинг и какие у него бывают последствия «Лишний»: что такое моббинг и какие у него бывают последствия

Высмеивание, распускание слухов, социальная изоляция — приметы моббинга

Psychologies
Траты на спорт Траты на спорт

Во сколько обходятся россиянам тренировки

Деньги
Властелин пива и кетчупа Властелин пива и кетчупа

Как сделал состояние самый богатый бразильский швейцарец

Деньги
После 60-летнего юбилея у женщины умерла мама и ушел муж. Но она нашла в себе силы начать новую жизнь После 60-летнего юбилея у женщины умерла мама и ушел муж. Но она нашла в себе силы начать новую жизнь

Как после череды трагических событий американка сумела встать на ноги

ТехИнсайдер
Лучшие женские наряды за всю историю «Оскара» — платья с историей, винтаж и ирония Лучшие женские наряды за всю историю «Оскара» — платья с историей, винтаж и ирония

Вспоминаем самые знаковые платья гостей «Оскара» за всю историю кинопремии

Правила жизни
Прически на короткие волосы: 7 вариантов на каждый день Прически на короткие волосы: 7 вариантов на каждый день

Многие думают, что короткая стрижка — это скучно. Мы с этим не согласны!

РБК
Как решиться на серьезные отношения: 3 полезных совета — семейный психолог предлагает рискнуть Как решиться на серьезные отношения: 3 полезных совета — семейный психолог предлагает рискнуть

Как преодолеть травматический опыт и снова отважиться на серьезные отношения?

Psychologies
Духовные практики как бегство от реальной жизни: почему это не работает Духовные практики как бегство от реальной жизни: почему это не работает

Как и у любого явления, у духовных практик есть обратная сторона

Psychologies
4 мифа о сексуальной жизни — проверьте себя 4 мифа о сексуальной жизни — проверьте себя

Наша сексуальная жизнь полна мифов

Psychologies
Магический Лондон: 5 киносказок о британской столице Магический Лондон: 5 киносказок о британской столице

Кинокритик Юрий Берсенев вспомнил несколько волшебных историй про Лондон

СНОБ
Мои дорогие. Mercedes EQE против BMW iX Мои дорогие. Mercedes EQE против BMW iX

Смертельная битва шикарных и очень немецких электрических внедорожников!

4x4 Club
Что стало с актерами сериала Что стало с актерами сериала

Что стало с исполнителями главных ролей сериала "Остаться в живых"?

VOICE
Ученые подтвердили, что с потеплением усилятся наводнения и засухи Ученые подтвердили, что с потеплением усилятся наводнения и засухи

Как глобальное потепление влияет на наводнения?

ТехИнсайдер
Как правильно хранить зимние вещи Как правильно хранить зимние вещи

Несколько лайфхаков, чтобы обезопасить теплую одежду от моли, плесени и грибка

Maxim
Бритва, полотенце, фен и еще 7 вещей, которые не стоит хранить в ванной - они не терпят влажную среду Бритва, полотенце, фен и еще 7 вещей, которые не стоит хранить в ванной - они не терпят влажную среду

Проведи инвентаризацию в ванной комнате и очисти ее от ненужных предметов!

ТехИнсайдер
Как поставить живые обои на ПК? Как поставить живые обои на ПК?

Украсить свой рабочий стол красивой анимацией очень просто

CHIP
Почему финансовые маневры Binance до боли напоминают последние махинации FTX Почему финансовые маневры Binance до боли напоминают последние махинации FTX

Придумывать правила на рынке крупнейшей в мире криптобирже легче на ходу

Forbes
Экс-директор по маркетингу Nike Грег Хоффман о культуре принятия риска Экс-директор по маркетингу Nike Грег Хоффман о культуре принятия риска

Грег Хоффман делится своими методами выстраивания мощного бренда

СНОБ
«Если ты используешь оценку, то принимаешь решения лучше и помогаешь людям больше» |“If You Use Evaluation You Make Better Decisions and Help People More” «Если ты используешь оценку, то принимаешь решения лучше и помогаешь людям больше» |“If You Use Evaluation You Make Better Decisions and Help People More”

О взглядах на профессию оценщика, импакте и трендах развития сферы оценки

Позитивные изменения
Героиня Татлина Героиня Татлина

Как пульсирующая нить русского авангарда протянулась сквозь ХХ век

Правила жизни
«Хочу управлять электропоездом!» Спецрепортаж к 8 Марта «Хочу управлять электропоездом!» Спецрепортаж к 8 Марта

Истории наших героинь, которые работают помощниками машиниста

Лиза
Один в чужом доме: видеопритча о взрослении на стихи Константина Бальмонта — премьера клипа Race to Space на «Снобе» Один в чужом доме: видеопритча о взрослении на стихи Константина Бальмонта — премьера клипа Race to Space на «Снобе»

Клип «Будем как Солнце» московских синти-романтиков Race to Space

СНОБ
История, которая потрясла мир: как Кайл Макдональд обменял скрепку на дом История, которая потрясла мир: как Кайл Макдональд обменял скрепку на дом

На что можно обменять простую скрепку?

VOICE
«При чем тут любовь?»: как ромком о браках по расчету возрождает веру в романтику «При чем тут любовь?»: как ромком о браках по расчету возрождает веру в романтику

Почему нехитрый набор приемов от создателей «Реальной любви» действует освежающе

Forbes
Открыть в приложении