Чего нам ждать от использования нейросетей хакерами

ForbesHi-Tech

На службе силы зла: как хакеры используют ChatGPT

Анастасия Гаврилюк, Роман Рожков

Фото Hannes P. Albert / dpa

Мошенники уже научились использовать нашумевший чат-бот ChatGPT для выполнения рутинных задач по написанию фишинговых писем и вредоносного кода, несмотря на то что программа от OpenAI имеет этические ограничения на такую деятельность. При этом получают свое распространение и специальные чат-боты для хакеров, например WormGPT. Forbes поговорил со специалистами по информационной безопасности о том, чего нам ждать от использования нейросетей хакерами и создадут ли они переворот в киберсреде

На начальном уровне

Хакеры по всему миру активно интересуются ChatGPT от OpenAI. Более 200 000 доступов к ChatGPT в даркнете обнаружила канадская компания Flare, работающая в сфере безопасности. На тематических хакерских форумах и в группах за полгода ChatGPT упоминается более 27 000 раз, пишет BleepingComputer со ссылкой на данные Flare.

Сам по себе ChatGPT не опасен — человек всегда напишет более точечное письмо, подчеркивает сооснователь проекта StopPhish Юрий Другач. Но когда злоумышленникам потребуется масштабировать атаку на большое количество организаций или пользователей, то нагрузку, связанную с человеческим ресурсом, они могут переложить на ChatGPT, поясняет он.

ChatGPT может писать код на уровне начинающего программиста, поэтому с его помощью можно создавать различные вредоносные программы и сайты без каких-либо знаний в программировании, отмечает ведущий инженер CorpSoft24 Михаил Сергеев. Нельзя сказать, что нейросеть оставит без работы криминальных кодеров и копирайтеров, но свою основную задачу — автоматизацию рутинных процессов и сокращение требуемого на работу времени — она выполняет хорошо, продолжает эксперт центра мониторинга внешних цифровых угроз Solar AURA компании «РТК-Солар» Александр Вураско.

С помощью чат-ботов можно генерировать дипфейки на основе личных фотографий пользователей, чтобы потом шантажировать жертву и требовать выкуп, отмечает руководитель управления киберразведки Bi.Zone Олег Скулкин. Еще одна схема мошенничества, по его словам, — имитация голоса с помощью искусственного интеллекта, например для звонков из «службы безопасности».

«Известны также случаи, когда преступники создают сайты, предлагающие якобы бесплатный доступ к нейросетям и чат-ботам. Чтобы получить его, человек вводит свои личные данные, после чего они становятся доступны мошенникам», — добавляет Олег Скулкин. Злоумышленники активно собирают чувствительные данные, которыми люди делятся с чат-ботами. Именно поэтому важно не размещать в них важную информацию, добавляет он.

Для ленивых хакеров

Злоумышленники уже активно используют, в том числе и в России, языковые модели как приманки в рамках мошеннических схем, говорит ведущий исследователь данных в «Лаборатории Касперского» Владислав Тушканов. «Недавно наши контент-аналитики обнаружили схему, в которой злоумышленники выманивали деньги через умный чат-бот для поиска интимных фотографий в Telegram, — рассказывает он. — Авторы чат-бота заявляли, что он якобы работает на основе ChatGPT и с его помощью можно искать в некой базе слитые фотографии человека, имея на руках ссылку на его профиль в социальных сетях или номер телефона. На определенном этапе человека просили заплатить 399 рублей за разовый доступ к базе или 990 рублей за безлимитный. Если жертва переводила деньги, то они уходили злоумышленникам, никаких фотографий человек, разумеется, не получал».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Горький привкус: почему не останавливается отток населения из Нижнего Новгорода Горький привкус: почему не останавливается отток населения из Нижнего Новгорода

Из-за каких причин жители вроде бы процветающего Нижнего покидают город?

Forbes
Дочь великой королевы: как Екатерина Арагонская правила Англией Дочь великой королевы: как Екатерина Арагонская правила Англией

Екатерина Арагонская была выиграла войну и правила страной наравне с мужем

Forbes
Кофе и нейросети: какую роль играет ИИ в привлечении зумеров при кадровом дефиците Кофе и нейросети: какую роль играет ИИ в привлечении зумеров при кадровом дефиците

Как в борьбе за таланты генеративный ИИ становится ключевым инструментом

Forbes
От Фаулза до Горбуновой: 7 главных книг лета От Фаулза до Горбуновой: 7 главных книг лета

Книги, за чтением которых время пролетит незаметно

РБК
Почему женщины выбирают мужчин с криминальным прошлым: объясняет психолог Почему женщины выбирают мужчин с криминальным прошлым: объясняет психолог

По каким причинам девушки выбирают парней с криминальным прошлым?

VOICE
Большие бутылки шампанского лучше сохранили пузырьки Большие бутылки шампанского лучше сохранили пузырьки

Размер бутылки повлиял на способность напитка оставаться игристым

N+1
Механический метаматериал посчитал до десяти Механический метаматериал посчитал до десяти

Физики создали механический метаматериал с эффектом памяти

N+1
Прагматический выбор: зачем предпринимателям становиться романтиками Прагматический выбор: зачем предпринимателям становиться романтиками

Новый "инь-янь" для ведения стартапов: прагматизм и романтизм

Forbes
Время красностопа. Винодел Франк Дюсенер — о будущем российского вина Время красностопа. Винодел Франк Дюсенер — о будущем российского вина

Винодел Франк Дюсенер — как изменились российские вина

СНОБ
Близость, страсть, привязанность: какой ваш тип любви — определите чувства Близость, страсть, привязанность: какой ваш тип любви — определите чувства

В любых отношениях есть важные составляющие

Psychologies
Алиса больше не живет Алиса больше не живет

«Реинкарнация. Новая глава»: несостоявшийся феминистский хоррор

Weekend
Бессмысленный и беспощадный: пятиминутный путеводитель по бунтам Бессмысленный и беспощадный: пятиминутный путеводитель по бунтам

Несколько бунтов разной степени успешности

Правила жизни
До начала гонки: что нужно сделать перед запуском стартапа До начала гонки: что нужно сделать перед запуском стартапа

Какие меры стоит принять перед тем, как инвестировать в новый проект

Forbes
«Я без процедур красоты никуда»: Татьяна Веденеева в день 70-летия раскрыла личные секреты «Я без процедур красоты никуда»: Татьяна Веденеева в день 70-летия раскрыла личные секреты

Татьяна Веденеева рассказала, что помогает ей оставаться в прекрасной форме

VOICE
О желания до жалости: 5 компонентов любви — мнение философа О желания до жалости: 5 компонентов любви — мнение философа

Из чего состоит чувство любви?

Psychologies
С какой скоростью растут наши волосы? С какой скоростью растут наши волосы?

Какие факторы влияют на скорость роста волос и как быстро растут волосы

ТехИнсайдер
«Кормилец» и «хранительница очага»: чему будут учить детей на уроках «Семьеведения» «Кормилец» и «хранительница очага»: чему будут учить детей на уроках «Семьеведения»

Чему посвящены учебные программы по подготовке школьников к семейной жизни?

Forbes
«Важнейший человек в истории»: каким получился «Оппенгеймер» Кристофера Нолана «Важнейший человек в истории»: каким получился «Оппенгеймер» Кристофера Нолана

Почему этот фильм получился не о науке, а о жизни человека в масштабах истории

Forbes
«Я бы не решилась на такой проект в Москве»: предприниматели — о работе в регионах «Я бы не решилась на такой проект в Москве»: предприниматели — о работе в регионах

К чему готовиться бизнесу за пределами Москвы?

Forbes
Остановка в Боровичах Остановка в Боровичах

Экскурсия в усадьбу купцов Митрофановых, где открыт ресторан Most

Новый очаг
Dodge Raider 1987. Японский Bronco от Chrysler Dodge Raider 1987. Японский Bronco от Chrysler

В период с 1975 по 1990-й год Chrysler питался деликатесами от Mitsubishi

4x4 Club
Как по восьми неочевидным симптомам понять, что у вас нехватка тестостерона Как по восьми неочевидным симптомам понять, что у вас нехватка тестостерона

Что такое тестостерон, зачем нужно и почему должно быть в норме?

Maxim
Фельдшер скорой помощи нашла остатки парейазавра на берегу Вятки Фельдшер скорой помощи нашла остатки парейазавра на берегу Вятки

Древняя парарептилия жила около 260 миллионов лет назад

N+1
Феминистская икона наоборот: жизнь Фриды Кало, рассказанная в ее собственных картинах Феминистская икона наоборот: жизнь Фриды Кало, рассказанная в ее собственных картинах

Рассказываем о судьбе Фриды Кало, которую она отразила в своих работах

Forbes
Мелатонин не сильно помог детям с бессонницей Мелатонин не сильно помог детям с бессонницей

Ученые не рекомендуют назначать мелатонин в качестве терапии первой линии детям

N+1
Рассмеши меня, если сможешь: фильмы, где играют комики Рассмеши меня, если сможешь: фильмы, где играют комики

Комедии, байопик, оскароносная драма: фильмы, в которых играли комики

Правила жизни
Картинки с отягчающими обстоятельствами Картинки с отягчающими обстоятельствами

Как карикатуры нарушали границы допустимого и к каким последствиям это приводило

Weekend
10 неожиданных фактов о главном герое каждого лета – арбузе 10 неожиданных фактов о главном герое каждого лета – арбузе

Арбуз — ягода, фрукт или овощ?

ТехИнсайдер
Как Барби видит свой розовый мир. И почему это важно для космических путешествий Как Барби видит свой розовый мир. И почему это важно для космических путешествий

Идеальная розовая обитель в фильме «Барби» ставит реальные научные вопросы

ТехИнсайдер
Женщина, которая поймет Женщина, которая поймет

Анна Михалкова отражает все русское женское в одном лице

Weekend
Открыть в приложении