Чего нам ждать от использования нейросетей хакерами

ForbesHi-Tech

На службе силы зла: как хакеры используют ChatGPT

Анастасия Гаврилюк, Роман Рожков

Фото Hannes P. Albert / dpa

Мошенники уже научились использовать нашумевший чат-бот ChatGPT для выполнения рутинных задач по написанию фишинговых писем и вредоносного кода, несмотря на то что программа от OpenAI имеет этические ограничения на такую деятельность. При этом получают свое распространение и специальные чат-боты для хакеров, например WormGPT. Forbes поговорил со специалистами по информационной безопасности о том, чего нам ждать от использования нейросетей хакерами и создадут ли они переворот в киберсреде

На начальном уровне

Хакеры по всему миру активно интересуются ChatGPT от OpenAI. Более 200 000 доступов к ChatGPT в даркнете обнаружила канадская компания Flare, работающая в сфере безопасности. На тематических хакерских форумах и в группах за полгода ChatGPT упоминается более 27 000 раз, пишет BleepingComputer со ссылкой на данные Flare.

Сам по себе ChatGPT не опасен — человек всегда напишет более точечное письмо, подчеркивает сооснователь проекта StopPhish Юрий Другач. Но когда злоумышленникам потребуется масштабировать атаку на большое количество организаций или пользователей, то нагрузку, связанную с человеческим ресурсом, они могут переложить на ChatGPT, поясняет он.

ChatGPT может писать код на уровне начинающего программиста, поэтому с его помощью можно создавать различные вредоносные программы и сайты без каких-либо знаний в программировании, отмечает ведущий инженер CorpSoft24 Михаил Сергеев. Нельзя сказать, что нейросеть оставит без работы криминальных кодеров и копирайтеров, но свою основную задачу — автоматизацию рутинных процессов и сокращение требуемого на работу времени — она выполняет хорошо, продолжает эксперт центра мониторинга внешних цифровых угроз Solar AURA компании «РТК-Солар» Александр Вураско.

С помощью чат-ботов можно генерировать дипфейки на основе личных фотографий пользователей, чтобы потом шантажировать жертву и требовать выкуп, отмечает руководитель управления киберразведки Bi.Zone Олег Скулкин. Еще одна схема мошенничества, по его словам, — имитация голоса с помощью искусственного интеллекта, например для звонков из «службы безопасности».

«Известны также случаи, когда преступники создают сайты, предлагающие якобы бесплатный доступ к нейросетям и чат-ботам. Чтобы получить его, человек вводит свои личные данные, после чего они становятся доступны мошенникам», — добавляет Олег Скулкин. Злоумышленники активно собирают чувствительные данные, которыми люди делятся с чат-ботами. Именно поэтому важно не размещать в них важную информацию, добавляет он.

Для ленивых хакеров

Злоумышленники уже активно используют, в том числе и в России, языковые модели как приманки в рамках мошеннических схем, говорит ведущий исследователь данных в «Лаборатории Касперского» Владислав Тушканов. «Недавно наши контент-аналитики обнаружили схему, в которой злоумышленники выманивали деньги через умный чат-бот для поиска интимных фотографий в Telegram, — рассказывает он. — Авторы чат-бота заявляли, что он якобы работает на основе ChatGPT и с его помощью можно искать в некой базе слитые фотографии человека, имея на руках ссылку на его профиль в социальных сетях или номер телефона. На определенном этапе человека просили заплатить 399 рублей за разовый доступ к базе или 990 рублей за безлимитный. Если жертва переводила деньги, то они уходили злоумышленникам, никаких фотографий человек, разумеется, не получал».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

ИИскусство: кому принадлежат авторские права на творчество нейросетей ИИскусство: кому принадлежат авторские права на творчество нейросетей

О деликатной природе авторского права в мире победившего ИИ

Forbes
Феномен ночной прокрастинации: почему мы откладываем отход ко сну даже тогда, когда очень сильно хотим спать Феномен ночной прокрастинации: почему мы откладываем отход ко сну даже тогда, когда очень сильно хотим спать

А вы знали, что залипание в телефоне в ущерб своему сну – это такая форма мести?

ТехИнсайдер
Столкновение умов: как не проиграть конкуренцию в борьбе за лидерство в области ИИ Столкновение умов: как не проиграть конкуренцию в борьбе за лидерство в области ИИ

Как на самом деле развивается ИИ в России?

Forbes
Комиссарши в пыльных шлемах Комиссарши в пыльных шлемах

Прекрасные дамы, которые активно участвовали в революции

Дилетант
«Дневник невидимки»: история необычной старшеклассницы с обычными проблемами «Дневник невидимки»: история необычной старшеклассницы с обычными проблемами

Отрывок из «Дневника невидимки» — романа о том, как оставаться собой

Forbes
Как три предпринимательницы помогают женщинам создавать собственный бизнес Как три предпринимательницы помогают женщинам создавать собственный бизнес

Как Collabroom помогает женщинам преодолеть неуверенность в собственных силах

Forbes
Температура плавления: как пережить жару и избежать теплового удара? Температура плавления: как пережить жару и избежать теплового удара?

Как легче переносить высокие температуры без вреда для здоровья

Правила жизни
Почему Мировой океан меняет свой цвет: зеленые воды Почему Мировой океан меняет свой цвет: зеленые воды

Почему так важен цвет океана и почему он меняется?

ТехИнсайдер
Как текстильная промышленность влияла на культуру, экономику и политику Как текстильная промышленность влияла на культуру, экономику и политику

О тканях как об одном из главных товаров в истории человечества

СНОБ
Деньги на бороде: почему барбершопов открывается больше, чем салонов красоты Деньги на бороде: почему барбершопов открывается больше, чем салонов красоты

Почему сегмент барбершопов так быстро растет?

Forbes
Как ухаживать за ногтями, если тебе больше 50 лет: советы экспертов Как ухаживать за ногтями, если тебе больше 50 лет: советы экспертов

Какие изменения в свою бьюти-рутину надо внести после 50 лет?

VOICE
«Ухо пловца» «Ухо пловца»

Наружный отит: что это за заболевание и у кого оно возникает чаще всего?

Здоровье
Мама перепутает! 10 двойников звезд, которых не отличишь от оригинала Мама перепутает! 10 двойников звезд, которых не отличишь от оригинала

Некоторые охотно пользуются сходством со звездой

VOICE
Похожий на цветок розы мягкий манипулятор поможет собрать урожай Похожий на цветок розы мягкий манипулятор поможет собрать урожай

Инженеры из Японии и Вьетнама разработали мягкий манипулятор ROSE

N+1
Шаманы и шаманизм Шаманы и шаманизм

Почему шаманизм многих пугает и как он работает на самом деле?

Лиза
На пороге квантового превосходства На пороге квантового превосходства

Квантовые компьютеры: чем они отличаются об обычных и какие задачи выполняют?

Наука и жизнь
Орнитологи предсказали гнездовой материал птиц по форме клюва Орнитологи предсказали гнездовой материал птиц по форме клюва

Как форма клюва у птиц влияет на строительство их гнезд

N+1
Цапли не то, чем кажутся: каким получился последний фильм Миядзаки «Как поживаете?» Цапли не то, чем кажутся: каким получился последний фильм Миядзаки «Как поживаете?»

«Как поживаете?» — фильм о том, как важно научиться принимать смерть

Правила жизни
Развод и тапочки по почте Развод и тапочки по почте

Как правильно и без ссор разделить имущество после распада семьи

Лиза
«Поля-двойники»: как Игорь Вулох вписывается в общий портрет русских нонконформистов «Поля-двойники»: как Игорь Вулох вписывается в общий портрет русских нонконформистов

Почему без Игоря Вулоха нельзя представить неофициальное искусство CCCР?

Forbes
«Оставил сердце в Сан-Франциско»: как жил и пел Тони Беннетт «Оставил сердце в Сан-Франциско»: как жил и пел Тони Беннетт

Тони Беннетт успел заработать славу, потерять ее на годы и вернуться в строй

Правила жизни
Неандертальским следам с пляжа Маталасканьяс оказалось около 151 тысячи лет Неандертальским следам с пляжа Маталасканьяс оказалось около 151 тысячи лет

Группа ученых повторно исследовала отпечатки ног древних людей

N+1
Скованные одной цепочкой: как оценить издержки документооборота в компании Скованные одной цепочкой: как оценить издержки документооборота в компании

Как найти общий язык между операторами ЭДО, производителями и ретейлерами

Forbes
В России впервые показали кроссовер «Москвич 5». Что это за машина В России впервые показали кроссовер «Москвич 5». Что это за машина

«Москвич 5»: JAC Sehol X6 под новым именем

РБК
Семеро по банкам. Чем вино в алюминии отличается от бутылочного Семеро по банкам. Чем вино в алюминии отличается от бутылочного

Чем вино в жестяной банке отличается от бутылочного?

СНОБ
Прародиной индоевропейских языков назвали Южный Кавказ Прародиной индоевропейских языков назвали Южный Кавказ

Лингвисты пересчитали время, когда существовал праиндоевропейский язык

N+1
7 типов голода: как контролировать аппетит — советы специалиста 7 типов голода: как контролировать аппетит — советы специалиста

Как научиться отличать реальную потребность в еде от ложной

Psychologies
Стыдные привычки, которые нам подарил СССР Стыдные привычки, которые нам подарил СССР

Если вам больше 40 лет, то перечисленные рефлексы вы уже в себе не переборете

Maxim
Фёдор Палицын: судьба генштабиста Фёдор Палицын: судьба генштабиста

Фёдор Палицын: современниками и потомками недооценён

Дилетант
Интересная история! Как Сальвадор Дали придумал дизайн обертки «Чупа-Чупс» Интересная история! Как Сальвадор Дали придумал дизайн обертки «Чупа-Чупс»

Мало кто знает, что Сальвадор Дали занимался маркетинговым дизайном

ТехИнсайдер
Открыть в приложении