OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT

ForbesHi-Tech

И ты, бот: почему в утечке данных пользователей ChatGPT нет ничего удивительного

Роман Рожков

Фото Gabby Jones / Bloomberg via Getty Images

На минувшей неделе компания OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT. Из-за сбоя некоторые пользователи могли видеть чужие сообщения, а также имена, фамилии, электронную почту и платежную информацию платных подписчиков сервиса. Forbes опросил российских участников рынка и специалистов в области кибербезопасности об этой утечке, о том, что они думают об этом происшествии и как это может повлиять на их дальнейшую работу с использованием ChatGPT.

Бот так история

20 марта OpenAI была вынуждена временно отключить ChatGPT из-за «ошибки в работе библиотеки с открытым исходным кодом», которая позволила некоторым пользователям видеть сообщения других людей, общавшихся с чат-ботом. Инцидент стал публичным после того, как пользователи Reddit начали публиковать скриншоты из ChatGPT, на которых были видны заголовки и первые сообщения активных чатов других пользователей. По данным издания Engadget, сервис не работал около 10 часов.

Расследование инцидента показало, что скомпрометированной могла оказаться и личная информация некоторых платных подписчиков сервиса, говорится в сообщении OpenAI: «За несколько часов до того, как мы отключили ChatGPT в понедельник, некоторые пользователи могли видеть имя и фамилию других активных пользователей, их емейлы, платежные адреса, последние четыре цифры кредитных карт и сроки действия кредитных карт».

В компании заверили, что утечка коснулась только 1,2% подписчиков ChatGPT Plus, а уязвимость была устранена. «Мы считаем, что число пользователей, чьи данные действительно были раскрыты кому-то другому, крайне мало. <...> Мы уведомили затронутых пользователей о том, что их платежная информация могла быть раскрыта. Мы уверены в отсутствии рисков для данных пользователей», — заявили в OpenAI.

Гендиректор компании Сэм Олтмэн рассказал о «значительной проблеме в работе ChatGPT» в среду, 22 марта, на своей странице в Twitter (заблокирован в России). Он сообщил, что пользователи временно потеряют доступ к истории сообщений, добавив, что разработчики «чувствуют себя ужасно» из-за произошедшего.

Угроза для бизнеса

В России уже есть немало компаний, которые начали использовать ChatGPT. «Сервис помогает им создавать маркетинговые тексты, для чего в ChatGPT на сервер в Америку, где запущена нейросеть, передаются данные — персональные и коммерческие. Что с ними происходит дальше, знает только OpenAI», — рассуждает гендиректор Smart Engines Владимир Арлазаров. По его мнению, бизнесу следует учитывать, что ChatGPT и подобные ей нейросети создают новые угрозы.

Forbes опросил участников рынка, использующих ChatGPT в своей работе, что они думают об утечке и не боятся ли, что данные их клиентов могут быть скомпрометированы.

Глеб Обломский, директор по продуктам разработчика решений на базе разговорного ИИ Just AI:

«Сама по себе конкретно эта утечка — не утечка данных логов работы модели и тех запросов, которые в нее отправляли, а утечка подписчиков, тех, кто непосредственно регистрировался в Open AI для работы. Если верить официальной информации, логи работы и данные, которые передавались в процессе работы в СhatGPT, не утекали.

Но есть намного более серьезный риск — передача данных, в том числе персональных и конфиденциальных, в закрытую и сложную модель, размещенную в облаке. Как будут использоваться эти данные и насколько создатели модели контролируют их использование — неизвестно. Поэтому я бы не рекомендовал строить решения, которые предполагают передачу персональных данных или чувствительной информации в модели, размещенной в облаке, и использовать такие решения.

Для разработчиков решений с точки зрения создания рабочих и надежных решений я бы смотрел на open source LLM модели, которые могут быть развернуты в контуре заказчика и на которых можно построить намного более контролируемый процесс обработки данных.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Назад в будущее: почему IT-гиганты стали инвестировать миллиарды в атомную энергию Назад в будущее: почему IT-гиганты стали инвестировать миллиарды в атомную энергию

Почему корпорации ищут спасение «старом» атоме и причем тут ИИ?

Forbes
Властелин пива и кетчупа Властелин пива и кетчупа

Как сделал состояние самый богатый бразильский швейцарец

Деньги
С едой на С едой на

РПП: что это за зверь такой и как это расстройство проявляется?

VOICE
Дочери подземелья: как режиссеры, галеристки и меценатки сохраняют свободу творчества Дочери подземелья: как режиссеры, галеристки и меценатки сохраняют свободу творчества

Почему слом модели культурного менеджмента не означает остановку творчества

Forbes
Союз дела и денег. Оценка экономической устойчивости проектов в области социального предпринимательства | The Union of Business and Money. Evaluation of the Economic Sustainability of Social Entrepreneurship Projects Союз дела и денег. Оценка экономической устойчивости проектов в области социального предпринимательства | The Union of Business and Money. Evaluation of the Economic Sustainability of Social Entrepreneurship Projects

Модель оценки воздействия проектов в области социального предпринимательства

Позитивные изменения
Маховик эволюции Маховик эволюции

Эволюция жизни на Земле непрерывна и в этом смысле сравнима с вечным двигателем

Наука и жизнь
Рыба-кит: как стартап «Много лосося» живет внутри X5 Group Рыба-кит: как стартап «Много лосося» живет внутри X5 Group

Как компания X5 Group помогла стартапу «Много лосося»

Forbes
Зачем черепахам панцирь и могут ли они жить без него? Зачем черепахам панцирь и могут ли они жить без него?

Почему у черепах панцирь?

ТехИнсайдер
4 вида комплиментов, которые нельзя говорить женщинам 4 вида комплиментов, которые нельзя говорить женщинам

Случаи, когда лучше молчать, чем говорить

Maxim
Неожиданный лайфхак из прошлого: что делать, когда хочется в баню, а под боком только русская печь? Неожиданный лайфхак из прошлого: что делать, когда хочется в баню, а под боком только русская печь?

Как мылись в русской печи?

ТехИнсайдер
О чем на самом деле мистический детектив «Детектор» О чем на самом деле мистический детектив «Детектор»

«Детектор» Костаса Марсаана — современный мистический триллер

СНОБ
Таяние Гренландии приближается к точке невозврата Таяние Гренландии приближается к точке невозврата

Таяние Гренландского ледового щита, скорее всего, остановить уже не удастся

ТехИнсайдер
Казимир Малевич Казимир Малевич

Казимир Малевич: художник, умер в 1935 году

Правила жизни
Морские слоны слишком сексуально активны! У них растет риск ранней смерти Морские слоны слишком сексуально активны! У них растет риск ранней смерти

Чересчур активная полигамия может привести к ранней смерти морских слонов

ТехИнсайдер
Что нам дает умение желать и как его развить: 3 техники Что нам дает умение желать и как его развить: 3 техники

В чем заключается связь между желанием и потребностью?

Psychologies
Самые быстрые мужские постные блюда со всех концов света Самые быстрые мужские постные блюда со всех концов света

Самые вкусные постные блюда быстрого приготовления

Maxim
Курс на юго-восток: как переехать в тропическую страну и можно ли там жить долго Курс на юго-восток: как переехать в тропическую страну и можно ли там жить долго

Разбираемся в тонкостях жизни в разных странах Юго-Восточной Азии

Forbes
Образ матери: как он влияет на дочь? Образ матери: как он влияет на дочь?

Как воспитывают детей разные типы матерей?

Psychologies
Как сохранить страсть после рождения ребенка: 3 простых шага — укрепите брак Как сохранить страсть после рождения ребенка: 3 простых шага — укрепите брак

Как сохранить близость после появления ребенка, несмотря на все сложности?

Psychologies
Пять лучших экспедиционных внедорожников американского рынка Пять лучших экспедиционных внедорожников американского рынка

Они не только довезут вас туда, куда нужно, но и вполне вероятно вернут обратно

4x4 Club
Миф о беспробудном пьянстве: что и сколько на самом деле пили на Руси Миф о беспробудном пьянстве: что и сколько на самом деле пили на Руси

Откуда возник миф о вечно пьяных русских? Стоит ли в него верить?

VOICE
Цифровые жулики Цифровые жулики

Как мошенники используют интернет-технологии для сделок с недвижимостью

Деньги
Актеры и главные герои сериала Актеры и главные герои сериала

Рассказываем о ролях и актерах турецкого сериала "Истерзанная"

VOICE
5 вопросов, которые помогут узнать истинный возраст мозга — протестируй свой! 5 вопросов, которые помогут узнать истинный возраст мозга — протестируй свой!

Можно ли определить возраст мозга?

VOICE
Французская кошка Французская кошка

Актриса Валери Зоидова говорит, что раскрывать женские характеры интересно

OK!
Высокобелковое питание обеспечило дрозофил и мышей крепким сном Высокобелковое питание обеспечило дрозофил и мышей крепким сном

Пища, богатая белком, снижает у плодовых мух и мышей пробуждаемость от сна

N+1
Как такое возможно: советский хирург Леонид Рогозов взял в руки скальпель и вырезал себе аппендицит Как такое возможно: советский хирург Леонид Рогозов взял в руки скальпель и вырезал себе аппендицит

Как молодой хирург Леонид Рогозов сам себе удалил аппендикс

ТехИнсайдер
Законным путем. Оценка фактического воздействия в части социальных инвестиций в России и мире Законным путем. Оценка фактического воздействия в части социальных инвестиций в России и мире

Практики правового регулирования в области социальных инвестиций

Позитивные изменения
«Один маленький ночной секрет»: фильм Наталии Мещаниновой нарушил «заговор молчания» о детском сексуальном насилии «Один маленький ночной секрет»: фильм Наталии Мещаниновой нарушил «заговор молчания» о детском сексуальном насилии

Об этом стараются не говорить. Про это стараются не вспоминать

Psychologies
Проклятье родителей: 8 главных ошибок в выборе профессии для подростка Проклятье родителей: 8 главных ошибок в выборе профессии для подростка

Почему родители не могут помочь детям сделать правильный карьерный выбор?

Psychologies
Открыть в приложении