Чего нам ждать от использования нейросетей хакерами

ForbesHi-Tech

На службе силы зла: как хакеры используют ChatGPT

Анастасия Гаврилюк, Роман Рожков

Фото Hannes P. Albert / dpa

Мошенники уже научились использовать нашумевший чат-бот ChatGPT для выполнения рутинных задач по написанию фишинговых писем и вредоносного кода, несмотря на то что программа от OpenAI имеет этические ограничения на такую деятельность. При этом получают свое распространение и специальные чат-боты для хакеров, например WormGPT. Forbes поговорил со специалистами по информационной безопасности о том, чего нам ждать от использования нейросетей хакерами и создадут ли они переворот в киберсреде

На начальном уровне

Хакеры по всему миру активно интересуются ChatGPT от OpenAI. Более 200 000 доступов к ChatGPT в даркнете обнаружила канадская компания Flare, работающая в сфере безопасности. На тематических хакерских форумах и в группах за полгода ChatGPT упоминается более 27 000 раз, пишет BleepingComputer со ссылкой на данные Flare.

Сам по себе ChatGPT не опасен — человек всегда напишет более точечное письмо, подчеркивает сооснователь проекта StopPhish Юрий Другач. Но когда злоумышленникам потребуется масштабировать атаку на большое количество организаций или пользователей, то нагрузку, связанную с человеческим ресурсом, они могут переложить на ChatGPT, поясняет он.

ChatGPT может писать код на уровне начинающего программиста, поэтому с его помощью можно создавать различные вредоносные программы и сайты без каких-либо знаний в программировании, отмечает ведущий инженер CorpSoft24 Михаил Сергеев. Нельзя сказать, что нейросеть оставит без работы криминальных кодеров и копирайтеров, но свою основную задачу — автоматизацию рутинных процессов и сокращение требуемого на работу времени — она выполняет хорошо, продолжает эксперт центра мониторинга внешних цифровых угроз Solar AURA компании «РТК-Солар» Александр Вураско.

С помощью чат-ботов можно генерировать дипфейки на основе личных фотографий пользователей, чтобы потом шантажировать жертву и требовать выкуп, отмечает руководитель управления киберразведки Bi.Zone Олег Скулкин. Еще одна схема мошенничества, по его словам, — имитация голоса с помощью искусственного интеллекта, например для звонков из «службы безопасности».

«Известны также случаи, когда преступники создают сайты, предлагающие якобы бесплатный доступ к нейросетям и чат-ботам. Чтобы получить его, человек вводит свои личные данные, после чего они становятся доступны мошенникам», — добавляет Олег Скулкин. Злоумышленники активно собирают чувствительные данные, которыми люди делятся с чат-ботами. Именно поэтому важно не размещать в них важную информацию, добавляет он.

Для ленивых хакеров

Злоумышленники уже активно используют, в том числе и в России, языковые модели как приманки в рамках мошеннических схем, говорит ведущий исследователь данных в «Лаборатории Касперского» Владислав Тушканов. «Недавно наши контент-аналитики обнаружили схему, в которой злоумышленники выманивали деньги через умный чат-бот для поиска интимных фотографий в Telegram, — рассказывает он. — Авторы чат-бота заявляли, что он якобы работает на основе ChatGPT и с его помощью можно искать в некой базе слитые фотографии человека, имея на руках ссылку на его профиль в социальных сетях или номер телефона. На определенном этапе человека просили заплатить 399 рублей за разовый доступ к базе или 990 рублей за безлимитный. Если жертва переводила деньги, то они уходили злоумышленникам, никаких фотографий человек, разумеется, не получал».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Дневник невидимки»: история необычной старшеклассницы с обычными проблемами «Дневник невидимки»: история необычной старшеклассницы с обычными проблемами

Отрывок из «Дневника невидимки» — романа о том, как оставаться собой

Forbes
Смеются ли андроиды над электроовцами? ИИ учится понимать юмор Смеются ли андроиды над электроовцами? ИИ учится понимать юмор

Группа ученых провела тестирование Больших языковых моделей на «чувство юмора»

ТехИнсайдер
От бронирования переговорной до входа в бизнес-зал: где используется биометрия в России От бронирования переговорной до входа в бизнес-зал: где используется биометрия в России

Зачем нужна биометрия и как ее использовать в России

ТехИнсайдер
Астрономы впервые увидели, как рождаются газовые гиганты, подобные Юпитеру Астрономы впервые увидели, как рождаются газовые гиганты, подобные Юпитеру

Ученые смогли лучше понять процесс формирование огромных газовых гигантов

ТехИнсайдер
Почему мы тянем время, даже когда знаем, что надо уйти? О токсичных отношениях и ловушках сознания Почему мы тянем время, даже когда знаем, что надо уйти? О токсичных отношениях и ловушках сознания

Почему же так сложно выйти из замкнутого круга токсичных отношений?

VOICE
Только для женщин. В чем причина болезненных месячных Только для женщин. В чем причина болезненных месячных

Дискомфорт во время месячных испытывают многие женщины, но иногда бывает и хуже

Лиза
Почему работать и читать, лежа в кровати, вредно для здоровья — избавьтесь от этой привычки! Почему работать и читать, лежа в кровати, вредно для здоровья — избавьтесь от этой привычки!

Превращение кровати в рабочее место может вызвать целый ряд проблем со здоровьем

ТехИнсайдер
Beauty-разбор: какими средствами для ухода пользоваться опасно Beauty-разбор: какими средствами для ухода пользоваться опасно

Разнообразие и доступность косметики не всегда работает в нашу пользу

Psychologies
От «липкого пола» до «стеклянного потолка»: словарь женской карьеры От «липкого пола» до «стеклянного потолка»: словарь женской карьеры

Словарик гендерного неравенства на рынке труда

Forbes
Николай Лебедев: Испытание блокбастерами Николай Лебедев: Испытание блокбастерами

История-лекция о том, как снимается современное кино с большими бюджетами

Maxim
«Ребенок захлебывался и кашлял»: что такое акушерское насилие и почему оно происходит. Часть 3. Уход за новорожденным «Ребенок захлебывался и кашлял»: что такое акушерское насилие и почему оно происходит. Часть 3. Уход за новорожденным

С чем сталкиваются женщины и их новорожденные дети в роддомах?

Psychologies
Покровительница христианских народов: как Россия боролась за влияние на Балканах Покровительница христианских народов: как Россия боролась за влияние на Балканах

Как обрастала мифами история отношений России и Западных Балкан?

Forbes
Хмельной напиток, который пили еще до нашей эры! Какой гений придумал пиво? Хмельной напиток, который пили еще до нашей эры! Какой гений придумал пиво?

Самое время рассказать, как и когда миру открылся легендарный хмельной напиток!

ТехИнсайдер
127 лет назад представили первый русский автомобиль. Вот что он мог 127 лет назад представили первый русский автомобиль. Вот что он мог

Какими были первые российские автомобили?

РБК
Немой заговорил: пять стадий принятия звука в кино Немой заговорил: пять стадий принятия звука в кино

Как звук захватил кино и как индустрия пережила революцию

Правила жизни
Почти два миллиарда человек пострадали от анемии в 2021 году Почти два миллиарда человек пострадали от анемии в 2021 году

В 2021 году распространенность анемии среди людей всех возрастов составила 24,3%

N+1
Полиглот с детства: так ли легко воспитать ребенка-билингва — личная история и комментарий психолога Полиглот с детства: так ли легко воспитать ребенка-билингва — личная история и комментарий психолога

Как воспитывать детей-билингвов?

Psychologies
Все что нужно знать об искусственном интеллекте! Ликбез и главные факты Все что нужно знать об искусственном интеллекте! Ликбез и главные факты

Главные факты об искусственном интеллекте

ТехИнсайдер
Спасти императора Иоанна Спасти императора Иоанна

XVIII век Российского государства — «заговорщицкое» столетие

Дилетант
Искусственный интеллект в деле Искусственный интеллект в деле

Может ли развитие искусственного интеллекта угрожать человеку?

Лиза
6 правил свидания с собой 6 правил свидания с собой

Как провести свидание с собой так, чтобы восполнить ресурс?

Psychologies
Гордые невесты и «мужественные» жены: какими были женщины эпохи викингов Гордые невесты и «мужественные» жены: какими были женщины эпохи викингов

Рассказываем о жизни, быте и положении в обществе женщин эпохи викингов

Forbes
В России впервые показали кроссовер «Москвич 5». Что это за машина В России впервые показали кроссовер «Москвич 5». Что это за машина

«Москвич 5»: JAC Sehol X6 под новым именем

РБК
Круглые, миндаль или щелки: как подобрать эффектный макияж по форме глаз — лайфхаки от эксперта Круглые, миндаль или щелки: как подобрать эффектный макияж по форме глаз — лайфхаки от эксперта

Форма глаз — аспект, на который стоит обращать внимание при выборе макияжа

VOICE
Подоить козу и искупать коня: 7 мест для летнего экотуризма Подоить козу и искупать коня: 7 мест для летнего экотуризма

Куда уехать на каникулы и выходные, чтобы купать коней и научиться доить козу

СНОБ
«Сексуальная женщина любит себя!»: жена Александра Малинина раскрыла секрет крепкого брака «Сексуальная женщина любит себя!»: жена Александра Малинина раскрыла секрет крепкого брака

Эмма Малинина рассказала, что помогает ей поддерживать свежесть чувств в браке

VOICE
Похвала тупости Похвала тупости

Владимир Козин: скульптура с легким характером

Weekend
Самый большой вулкан в Солнечной системе когда-то был островом Самый большой вулкан в Солнечной системе когда-то был островом

Самый большой вулкан в Солнечной системе когда-то мог быть островом в море

ТехИнсайдер
8 идей, как повторно использовать старые контейнеры для контактных линз – всем путешественникам на заметку! 8 идей, как повторно использовать старые контейнеры для контактных линз – всем путешественникам на заметку!

Контейнеры для линз — незаменимая вещь для путешественника

ТехИнсайдер
Не только окрошка! 5 холодных супов в жару Не только окрошка! 5 холодных супов в жару

Минимум продуктов и потраченного времени, максимум пользы и вкуса

Maxim
Открыть в приложении