OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT

ForbesHi-Tech

И ты, бот: почему в утечке данных пользователей ChatGPT нет ничего удивительного

Роман Рожков

Фото Gabby Jones / Bloomberg via Getty Images

На минувшей неделе компания OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT. Из-за сбоя некоторые пользователи могли видеть чужие сообщения, а также имена, фамилии, электронную почту и платежную информацию платных подписчиков сервиса. Forbes опросил российских участников рынка и специалистов в области кибербезопасности об этой утечке, о том, что они думают об этом происшествии и как это может повлиять на их дальнейшую работу с использованием ChatGPT.

Бот так история

20 марта OpenAI была вынуждена временно отключить ChatGPT из-за «ошибки в работе библиотеки с открытым исходным кодом», которая позволила некоторым пользователям видеть сообщения других людей, общавшихся с чат-ботом. Инцидент стал публичным после того, как пользователи Reddit начали публиковать скриншоты из ChatGPT, на которых были видны заголовки и первые сообщения активных чатов других пользователей. По данным издания Engadget, сервис не работал около 10 часов.

Расследование инцидента показало, что скомпрометированной могла оказаться и личная информация некоторых платных подписчиков сервиса, говорится в сообщении OpenAI: «За несколько часов до того, как мы отключили ChatGPT в понедельник, некоторые пользователи могли видеть имя и фамилию других активных пользователей, их емейлы, платежные адреса, последние четыре цифры кредитных карт и сроки действия кредитных карт».

В компании заверили, что утечка коснулась только 1,2% подписчиков ChatGPT Plus, а уязвимость была устранена. «Мы считаем, что число пользователей, чьи данные действительно были раскрыты кому-то другому, крайне мало. <...> Мы уведомили затронутых пользователей о том, что их платежная информация могла быть раскрыта. Мы уверены в отсутствии рисков для данных пользователей», — заявили в OpenAI.

Гендиректор компании Сэм Олтмэн рассказал о «значительной проблеме в работе ChatGPT» в среду, 22 марта, на своей странице в Twitter (заблокирован в России). Он сообщил, что пользователи временно потеряют доступ к истории сообщений, добавив, что разработчики «чувствуют себя ужасно» из-за произошедшего.

Угроза для бизнеса

В России уже есть немало компаний, которые начали использовать ChatGPT. «Сервис помогает им создавать маркетинговые тексты, для чего в ChatGPT на сервер в Америку, где запущена нейросеть, передаются данные — персональные и коммерческие. Что с ними происходит дальше, знает только OpenAI», — рассуждает гендиректор Smart Engines Владимир Арлазаров. По его мнению, бизнесу следует учитывать, что ChatGPT и подобные ей нейросети создают новые угрозы.

Forbes опросил участников рынка, использующих ChatGPT в своей работе, что они думают об утечке и не боятся ли, что данные их клиентов могут быть скомпрометированы.

Глеб Обломский, директор по продуктам разработчика решений на базе разговорного ИИ Just AI:

«Сама по себе конкретно эта утечка — не утечка данных логов работы модели и тех запросов, которые в нее отправляли, а утечка подписчиков, тех, кто непосредственно регистрировался в Open AI для работы. Если верить официальной информации, логи работы и данные, которые передавались в процессе работы в СhatGPT, не утекали.

Но есть намного более серьезный риск — передача данных, в том числе персональных и конфиденциальных, в закрытую и сложную модель, размещенную в облаке. Как будут использоваться эти данные и насколько создатели модели контролируют их использование — неизвестно. Поэтому я бы не рекомендовал строить решения, которые предполагают передачу персональных данных или чувствительной информации в модели, размещенной в облаке, и использовать такие решения.

Для разработчиков решений с точки зрения создания рабочих и надежных решений я бы смотрел на open source LLM модели, которые могут быть развернуты в контуре заказчика и на которых можно построить намного более контролируемый процесс обработки данных.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Почва в объективе микроскопа Почва в объективе микроскопа

Микроморфология — наука, изучающая тонкие срезы почвы

Наука и жизнь
Эта картинка оценит ваш уровень тревоги на данный момент: проверьте свое состояние Эта картинка оценит ваш уровень тревоги на данный момент: проверьте свое состояние

В каком эмоциональном состоянии вы сейчас находитесь?

ТехИнсайдер
Взлёты и падения. Особенности создания чешского внедорожника Взлёты и падения. Особенности создания чешского внедорожника

В этот раз мы поговорим о создании внедорожника ŠKODA

4x4 Club
Свой чужой Свой чужой

Как три американских школьника и моряк Пушкин отменили Холодную войну

Weekend
Как картины и фотографии усиливают эффект пропаганды и создают мифы о правителях Как картины и фотографии усиливают эффект пропаганды и создают мифы о правителях

Глава из книги «Взгляд историка: как фотографии и изображения создают историю»

Forbes
Самый большой и самый маленький астероиды Солнечной системы: какой сможет уничтожить планету? Самый большой и самый маленький астероиды Солнечной системы: какой сможет уничтожить планету?

Откуда возникают астероиды и что влияет на их размер?

ТехИнсайдер
Второй переходный возраст: что такое менопауза и как о ней говорить Второй переходный возраст: что такое менопауза и как о ней говорить

Почему и как происходит менопауза?

Forbes
Анна и черная воронка Анна и черная воронка

Иногда лучший выход из тяжелой ситуации — дать ей поглотить себя

СНОБ
Сколько вам лет: тест на внутренний возраст. Проверьте, отличается ли цифра в паспорте от результатов! Сколько вам лет: тест на внутренний возраст. Проверьте, отличается ли цифра в паспорте от результатов!

Как же определить, сколько лет вам на самом деле?

ТехИнсайдер
Артериальное давление Артериальное давление

Что влияет на давление у здорового человека и можно ли его регулировать?

Здоровье
Здоровый микробиом — здоровый организм Здоровый микробиом — здоровый организм

Как поддерживать баланс в микробиоме и какие исследования ведутся в этой области

Наука
Какую воду лучше пить: с газом или без? Какую воду лучше пить: с газом или без?

Что произойдёт с организмом, если обычную воду полностью заменить газированной?

ТехИнсайдер
От первого лица: 5 зарубежных книг о женщинах, которые стоит прочитать От первого лица: 5 зарубежных книг о женщинах, которые стоит прочитать

Автобиографические книги наших современниц

Правила жизни
«Восток поднимается, а Запад катится вниз»: самые яркие высказывания Си Цзиньпина о США, СССР, войне и мире «Восток поднимается, а Запад катится вниз»: самые яркие высказывания Си Цзиньпина о США, СССР, войне и мире

На примере цитат китайского лидера показываем его политическую позицию

Maxim
Вопрос на засыпку: почему кислород назвали кислородом, если он не кислый? Вопрос на засыпку: почему кислород назвали кислородом, если он не кислый?

Почему кислород безвкусный?

ТехИнсайдер
Что делать при панической атаке: техника пяти шагов Что делать при панической атаке: техника пяти шагов

Что такое паническая атака и как помочь себе, если она случилась

Правила жизни
История Миры Мурати, которая работает в OpenAI и участвовала в создании ChatGPT История Миры Мурати, которая работает в OpenAI и участвовала в создании ChatGPT

Карьера Миры Мурати в мире высоких технологий

Forbes
Какая водка считается самой вкусной в мире? Какая водка считается самой вкусной в мире?

Ищем лучшую водку в мире!

Maxim
Мы идем по Африке: как бывший врач стал организатором охотничьих сафари в ЮАР Мы идем по Африке: как бывший врач стал организатором охотничьих сафари в ЮАР

Бывший врач Георгий Рагозин строит бизнес исходя из своих увлечений

Forbes
Секреты и ловушки ревности: 9 главных вопросов — разбор с психологами Секреты и ловушки ревности: 9 главных вопросов — разбор с психологами

Что на самом деле значит ревность?

Psychologies
Ботинки больше не промокнут! 5 способов сделать водоотталкивающую пропитку для обуви Ботинки больше не промокнут! 5 способов сделать водоотталкивающую пропитку для обуви

Как можно сделать обувь непромокаемой в домашних условиях

ТехИнсайдер
Что такое джазовая музыка Что такое джазовая музыка

Джазовая музыка — это…

Maxim
Не теряй голову: 12 вещей, которые выдадут плохого мастера по наращиванию волос Не теряй голову: 12 вещей, которые выдадут плохого мастера по наращиванию волос

Как найти хорошего мастера по наращиванию волос

VOICE
Зов далеких островов Зов далеких островов

Дальний Восток России — регион с обилием уникальных природных ландшафтов

Y Magazine
Это вам не мусор! 7 хитрых лайфхаков, как использовать втулки от туалетной бумаги Это вам не мусор! 7 хитрых лайфхаков, как использовать втулки от туалетной бумаги

Картонные втулки действительно могут пригодиться в быту. 7 идей их использования

ТехИнсайдер
Когда летние шины выгоднее всего покупать: секрет хитрых водителей Когда летние шины выгоднее всего покупать: секрет хитрых водителей

Хитрые водители разделяют покупку и установку шин

ТехИнсайдер
Почему мать принцесс Евгении и Беатрис стала единственным человеком, открыто защищающим Меган Маркл Почему мать принцесс Евгении и Беатрис стала единственным человеком, открыто защищающим Меган Маркл

Герцогиня Йоркская оказалась единственным человеком, поддержавшим Меган Маркл

VOICE
«Кувшин здоровья»: как питаться, чтобы сохранить молодость, — план врача «Кувшин здоровья»: как питаться, чтобы сохранить молодость, — план врача

Что подразумевает план питания «Кувшин здоровья»?

Psychologies
Non-fiction Non-fiction

Каждое появление Даниила Воробьёва на экране — яркая вспышка, провокация

OK!
Реданы, офники и гики: почему подростки подвержены влиянию субкультур Реданы, офники и гики: почему подростки подвержены влиянию субкультур

Стоит ли родителям беспокоиться, если ребенок стал частью какой-то субкультуры?

Psychologies
Открыть в приложении