Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Зачем каждому садоводу нужно иметь при себе перекись водорода: 6 полезных применений аптечного средства Зачем каждому садоводу нужно иметь при себе перекись водорода: 6 полезных применений аптечного средства

В саду и огороде перекись водорода может творить чудеса!

ТехИнсайдер
5 самых смертоносных видов оружия за всю историю: от напалма до атомной бомбы 5 самых смертоносных видов оружия за всю историю: от напалма до атомной бомбы

Виды вооружений, соперничать с которыми на всей Земле не мог никто

ТехИнсайдер
Драгоценная наука: кто и зачем выращивает в лабораториях бриллианты Драгоценная наука: кто и зачем выращивает в лабораториях бриллианты

В чем заключается уникальность лабораторных бриллиантов?

Forbes
У самого синего моря У самого синего моря

Компактная студия с видом на море

Идеи Вашего Дома
План Б План Б

Как пережить несчастье, собраться с силами и снова ощутить радость жизни

kiozk originals
Упрямый характер: история и современность автомобильной марки Audi Упрямый характер: история и современность автомобильной марки Audi

Непростая история взлетов и падений Audi

Вокруг света
Новая реальность российской химии Новая реальность российской химии

Химпром сможет обеспечить работу практически всех отраслей народного хозяйства

РБК
Как живет немецкая коммуна анархистов, в которой дети могут выбирать себе родителей Как живет немецкая коммуна анархистов, в которой дети могут выбирать себе родителей

Коммуны Нидеркауфунген — удивительная история анархистов из Германии

Maxim
Восстановить тело и справедливость Восстановить тело и справедливость

Как пластические хирурги могут помочь восстановить ваше тело

Собака.ru
Светлана Немоляева: Светлана Немоляева:

Наша судьба была предопределена

Коллекция. Караван историй
Почему винный бокал увеличился в семь раз за последние 300 лет? Почему винный бокал увеличился в семь раз за последние 300 лет?

История бокалов так же стара, как история алкогольных напитков

ТехИнсайдер
Все обожают Пита: кто такой Пит Дэвидсон и почему его любят успешные женщины Все обожают Пита: кто такой Пит Дэвидсон и почему его любят успешные женщины

Разбираем особенности образа Пита Дэвидсона

Правила жизни
Интервью с группой Mana Island о новом альбоме «Итака» Интервью с группой Mana Island о новом альбоме «Итака»

Группа Mana Island — о современной Москве и возвращении спустя пять лет

СНОБ
Владимир - плохой правитель? Христианство было введено насильно? Факты о князе Владимир - плохой правитель? Христианство было введено насильно? Факты о князе

Что стоит знать каждому о знаменитом крестителе и повелителе?

ТехИнсайдер
Капитал, клещи и другие страшные вещи Капитал, клещи и другие страшные вещи

«Дурной глаз»: социально-экономический хоррор с Евой Грин

Weekend
За что мы действительно ответственны: вина в контексте политики, морали и культуры За что мы действительно ответственны: вина в контексте политики, морали и культуры

Отрывок из книги «Вопрос о виновности. О политической ответственности Германии»

Psychologies
Разумовские Разумовские

История восхождения рода Разумовских похожа на сказку

Дилетант
Алиса Фрейндлих о Товстоногове, Рязанове и других легендарных коллегах Алиса Фрейндлих о Товстоногове, Рязанове и других легендарных коллегах

Алиса Бруновна вспомнила тех, с кем работала и была связана долгие годы

Караван историй
«Еда и микробиом» «Еда и микробиом»

Какие микробы живут в алкогольных напитках

N+1
Наследники по прямой: как юное поколение распорядится капиталом в $20 трлн Наследники по прямой: как юное поколение распорядится капиталом в $20 трлн

Мир переживает самую массовую передачу капитала от одного поколения другому

РБК
Ничто не вечно под луной: 10 слабых мест подержанных автомобилей Ничто не вечно под луной: 10 слабых мест подержанных автомобилей

При покупке стоит обратить внимание на многие узлы автомобиля

Вокруг света
Как не потерять себя в мире, где все одинаковы: фрагмент из сборника рассказов «Невидимые голоса» — о бедности Как не потерять себя в мире, где все одинаковы: фрагмент из сборника рассказов «Невидимые голоса» — о бедности

Если просто, это книга о надежде — надежде на тепло и понимание

Правила жизни
Почему мы набираем вес зимой и как этого избежать? Почему мы набираем вес зимой и как этого избежать?

Нужно ли нам запасать жир на зиму и как избежать зимней прибавки в весе

Правила жизни
Чего на самом деле хотят женщины (в постели) Чего на самом деле хотят женщины (в постели)

Чего на самом деле мы хотим в постели, а от чего – нервно вздрагиваем?

VOICE
Искушение манящей красотой Искушение манящей красотой

В Ингушетии так много красивых мест, что можно потерять счет дням, изучая их

Отдых в России
Правильные движения глаз, влияние мозга на активность и лечение депрессии: 5 последних открытий спортивной психологии Правильные движения глаз, влияние мозга на активность и лечение депрессии: 5 последних открытий спортивной психологии

Как связаны мозг и выносливость, что такое бос-тренировки?

Psychologies
10 знаковых вещей Raf Simons, вошедших в историю моды 10 знаковых вещей Raf Simons, вошедших в историю моды

Десять предметов и коллекций Raf Simons, которые точно можно назвать культовыми

Правила жизни
Быстро убрать отеки: 7 способов и SOS-инструкция Быстро убрать отеки: 7 способов и SOS-инструкция

Как бороться с утренними отеками на лице?

РБК
«Уже не модно»: что случилось с рынком NFT и почему их сложно продать «Уже не модно»: что случилось с рынком NFT и почему их сложно продать

Почему хайп вокруг NFT остался позади?

Forbes
Полотнища всем на зависть: 10 самых красивых флагов мира Полотнища всем на зависть: 10 самых красивых флагов мира

Страны демонстрируют творческий подход в вопросе государственных символов

Вокруг света
Открыть в приложении