OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT

ForbesHi-Tech

И ты, бот: почему в утечке данных пользователей ChatGPT нет ничего удивительного

Роман Рожков

Фото Gabby Jones / Bloomberg via Getty Images

На минувшей неделе компания OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT. Из-за сбоя некоторые пользователи могли видеть чужие сообщения, а также имена, фамилии, электронную почту и платежную информацию платных подписчиков сервиса. Forbes опросил российских участников рынка и специалистов в области кибербезопасности об этой утечке, о том, что они думают об этом происшествии и как это может повлиять на их дальнейшую работу с использованием ChatGPT.

Бот так история

20 марта OpenAI была вынуждена временно отключить ChatGPT из-за «ошибки в работе библиотеки с открытым исходным кодом», которая позволила некоторым пользователям видеть сообщения других людей, общавшихся с чат-ботом. Инцидент стал публичным после того, как пользователи Reddit начали публиковать скриншоты из ChatGPT, на которых были видны заголовки и первые сообщения активных чатов других пользователей. По данным издания Engadget, сервис не работал около 10 часов.

Расследование инцидента показало, что скомпрометированной могла оказаться и личная информация некоторых платных подписчиков сервиса, говорится в сообщении OpenAI: «За несколько часов до того, как мы отключили ChatGPT в понедельник, некоторые пользователи могли видеть имя и фамилию других активных пользователей, их емейлы, платежные адреса, последние четыре цифры кредитных карт и сроки действия кредитных карт».

В компании заверили, что утечка коснулась только 1,2% подписчиков ChatGPT Plus, а уязвимость была устранена. «Мы считаем, что число пользователей, чьи данные действительно были раскрыты кому-то другому, крайне мало. <...> Мы уведомили затронутых пользователей о том, что их платежная информация могла быть раскрыта. Мы уверены в отсутствии рисков для данных пользователей», — заявили в OpenAI.

Гендиректор компании Сэм Олтмэн рассказал о «значительной проблеме в работе ChatGPT» в среду, 22 марта, на своей странице в Twitter (заблокирован в России). Он сообщил, что пользователи временно потеряют доступ к истории сообщений, добавив, что разработчики «чувствуют себя ужасно» из-за произошедшего.

Угроза для бизнеса

В России уже есть немало компаний, которые начали использовать ChatGPT. «Сервис помогает им создавать маркетинговые тексты, для чего в ChatGPT на сервер в Америку, где запущена нейросеть, передаются данные — персональные и коммерческие. Что с ними происходит дальше, знает только OpenAI», — рассуждает гендиректор Smart Engines Владимир Арлазаров. По его мнению, бизнесу следует учитывать, что ChatGPT и подобные ей нейросети создают новые угрозы.

Forbes опросил участников рынка, использующих ChatGPT в своей работе, что они думают об утечке и не боятся ли, что данные их клиентов могут быть скомпрометированы.

Глеб Обломский, директор по продуктам разработчика решений на базе разговорного ИИ Just AI:

«Сама по себе конкретно эта утечка — не утечка данных логов работы модели и тех запросов, которые в нее отправляли, а утечка подписчиков, тех, кто непосредственно регистрировался в Open AI для работы. Если верить официальной информации, логи работы и данные, которые передавались в процессе работы в СhatGPT, не утекали.

Но есть намного более серьезный риск — передача данных, в том числе персональных и конфиденциальных, в закрытую и сложную модель, размещенную в облаке. Как будут использоваться эти данные и насколько создатели модели контролируют их использование — неизвестно. Поэтому я бы не рекомендовал строить решения, которые предполагают передачу персональных данных или чувствительной информации в модели, размещенной в облаке, и использовать такие решения.

Для разработчиков решений с точки зрения создания рабочих и надежных решений я бы смотрел на open source LLM модели, которые могут быть развернуты в контуре заказчика и на которых можно построить намного более контролируемый процесс обработки данных.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Собака – это не только друг человека, но и эффективная «прививка» от экземы Собака – это не только друг человека, но и эффективная «прививка» от экземы

Домашние животные и младенцы: почему не стоит бояться аллергии

Здоровье
Сладкая наука Сладкая наука

Наука бокса заключается не только в том, чтобы быстро двигаться и наносить удары

Вокруг света
Снова вместе Снова вместе

Бренды класса люкс давно и умело используют сотрудничество с художниками

Robb Report
Метод «Джакарта»: как антикоммунистическая политика США изменила «третий мир» Метод «Джакарта»: как антикоммунистическая политика США изменила «третий мир»

Как США поменяли вектор политического развития сразу на нескольких континентах

Forbes
Полный, но не только. Тест-драйв Omoda C5 AWD Полный, но не только. Тест-драйв Omoda C5 AWD

Компактный кроссовер С5 свежеиспеченной марки Omoda получил новую модификацию

РБК
Брачные игры: в чем их выгода и опасность Брачные игры: в чем их выгода и опасность

«Брачные игры» — неосознанные сценарии, помогающие нам закрывать потребности

Psychologies
Сексуализированное насилие: как защитить ребенка — советы психолога Сексуализированное насилие: как защитить ребенка — советы психолога

Сексуализированное насилие в отношении детей может проявляться по-разному

Psychologies
4 вида комплиментов, которые нельзя говорить женщинам 4 вида комплиментов, которые нельзя говорить женщинам

Случаи, когда лучше молчать, чем говорить

Maxim
Эта картинка оценит ваш уровень тревоги на данный момент: проверьте свое состояние Эта картинка оценит ваш уровень тревоги на данный момент: проверьте свое состояние

В каком эмоциональном состоянии вы сейчас находитесь?

ТехИнсайдер
Не для детских ушей Не для детских ушей

6 вещей, которые ни в коем случае нельзя делать при ребенке

Лиза
8 полезных лайфхаков, которыми пользовались все советские хозяйки: что делать со старыми газетами 8 полезных лайфхаков, которыми пользовались все советские хозяйки: что делать со старыми газетами

Газета ещё может пригодиться в быту и стать незаменимым помощником!

ТехИнсайдер
Хаос в полях: рынок загородной недвижимости никак не выберется из депрессии Хаос в полях: рынок загородной недвижимости никак не выберется из депрессии

Затянувшееся ожидание нового предложения и вера в растущий потенциальный спрос

Forbes
Овцеводство поддержат по-новому Овцеводство поддержат по-новому

Новая программа овцеводства должна учесть специфику развития отрасли

Агроинвестор
4 проблемы, которые (не) разрушили наши отношения 4 проблемы, которые (не) разрушили наши отношения

Наши героини рассказали о том, из-за чего они оказались на грани расставания

Psychologies
Взяли матушек, сделали круг с молитвами: Андрей Малахов вспомнил о неожиданном звонке Жанны Фриске Взяли матушек, сделали круг с молитвами: Андрей Малахов вспомнил о неожиданном звонке Жанны Фриске

Андрей Малахов поддерживал связь с Жанной Фриске до самой ее смерти

VOICE
Может ли человек распознать текст ИИ? Вот к чему надо готовиться в будущем! Может ли человек распознать текст ИИ? Вот к чему надо готовиться в будущем!

Как скоро роботы начнут лишать людей работы?

ТехИнсайдер
7 удобных клавиатур для Android: для аскетов и любителей эмодзи 7 удобных клавиатур для Android: для аскетов и любителей эмодзи

Мы собрали лучшие клавиатуры из того, что можно найти в Google Play Store

CHIP
Слом стереотипов: почему мужчины стали рекламировать ювелирные украшения Слом стереотипов: почему мужчины стали рекламировать ювелирные украшения

Ювелирные украшения стали все активнее представлять на мужчинах

Forbes
Нежнейшая пряность кардамон Нежнейшая пряность кардамон

Где выращивают лучший кардамон?

Наука и жизнь
«Midjourney — революция, сравнимая с изобретением фотографии». Интервью с экспертом в области цифровых технологий Львом Мановичем «Midjourney — революция, сравнимая с изобретением фотографии». Интервью с экспертом в области цифровых технологий Львом Мановичем

Вытеснит ли искусственный интеллект художников, фотографов и дизайнеров?

Правила жизни
Новые лица: пять молодых театральных актеров, за которыми стоит следить Новые лица: пять молодых театральных актеров, за которыми стоит следить

Пять самых интересных новых актеров московской сцены

Forbes
Серая зона: почему в России не строят арендное жилье Серая зона: почему в России не строят арендное жилье

Почему девелоперы не хотят строить доходные дома?

Forbes
Энергетическая революция: ученые создают накопители энергии на сверхпроводниках Энергетическая революция: ученые создают накопители энергии на сверхпроводниках

Ученые разрабатывают революционные накопители энергии нового типа

ТехИнсайдер
Прострелы, или Сны наяву Прострелы, или Сны наяву

Весной в степях, по сухим лугам можно увидеть сказочно красивый цветок

Наука и жизнь
Миротворческий работник Миротворческий работник

Марина Алексеева: метаморфозы реальности

Weekend
Почему дети учатся быстрее взрослых Почему дети учатся быстрее взрослых

Бывают моменты, когда юный возраст дает преимущество

ТехИнсайдер
Чем рыбный жир отличается от рыбьего и какой из них полезнее? Чем рыбный жир отличается от рыбьего и какой из них полезнее?

Чем отличаются рыбий и рыбный жир и какова их польза для нашего организма?

ТехИнсайдер
Amirchik: «У меня такой период, когда я бы с радостью не трогал телефон вообще» Amirchik: «У меня такой период, когда я бы с радостью не трогал телефон вообще»

Amirchik — о том, почему его удручают соцсети и что делает счастливым

ЖАРА Magazine
И такое возможно: а вы знали, что женщина может сразу забеременеть от двоих мужчин? И такое возможно: а вы знали, что женщина может сразу забеременеть от двоих мужчин?

Можно ли повторно забеременеть во время беременности?

ТехИнсайдер
Быстрее гиперзвука: величайший космический рекорд, поставленный крышкой от люка Быстрее гиперзвука: величайший космический рекорд, поставленный крышкой от люка

Нет ничего удивительного в том, что инопланетяне не вступают с нами в контакт

Maxim
Открыть в приложении