Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Какие были парфюмы в Древней Греции? Узнайте интересные факты! Какие были парфюмы в Древней Греции? Узнайте интересные факты!

Мир ароматов в Древней Греции был куда богаче, чем может показаться

ТехИнсайдер
«Мне нужен масштаб!» «Мне нужен масштаб!»

Как Amirchik ворвался в мировой Shazam

OK!
Квантовая готовность: ждет ли бизнес новая технологическая революция Квантовая готовность: ждет ли бизнес новая технологическая революция

Существует риск проспать квантовую революцию, считает Андрей Скорочкин

Forbes
Как два сибиряка придумали робота-репетитора по английскому языку и привлекли $5 млн Как два сибиряка придумали робота-репетитора по английскому языку и привлекли $5 млн

Как два друга создали виртуального репетитора и справились с кризисом?

Forbes
Секрет похудения, который заключается не в голодании или подсчете калорий Секрет похудения, который заключается не в голодании или подсчете калорий

Какое воздействие на организм окажет один день без углеводов?

ТехИнсайдер
Если выпить пива перед вином, похмелья не будет? Вот что говорят врачи Если выпить пива перед вином, похмелья не будет? Вот что говорят врачи

Поверие о том, что пиво перед вином избавит от похмелья, не выдержало критики

ТехИнсайдер
Про любовь Про любовь

Интерьер, вдохновленный современной французской классикой

SALON-Interior
«Он просто машина»: экс-сотрудники рассказали о культуре в Revolut Сторонского «Он просто машина»: экс-сотрудники рассказали о культуре в Revolut Сторонского

В Revolut царит среда «ожесточенной конкуренции»

Forbes
История одной фотографии: первый секс-шоп в ГДР, 1989 История одной фотографии: первый секс-шоп в ГДР, 1989

Первый секс-шоп ГДР принадлежал старушке-каскадерше по имени Беате Узе

Maxim
Лабиринт: запутанная история Лабиринт: запутанная история

Самые необычные лабиринты мира – история и тайны

Вокруг света
«Вера»: роман о заблуждениях, из-за которых женщины готовы мириться с зависимостью «Вера»: роман о заблуждениях, из-за которых женщины готовы мириться с зависимостью

Отрывок из романа Элизабет фон Арним «Вера»

Forbes
«Ненавижу и скучаю»: почему мы испытываем смешанные чувства к тем, с кем больше не хотим быть «Ненавижу и скучаю»: почему мы испытываем смешанные чувства к тем, с кем больше не хотим быть

Почему расставание с человеком вызывает у нас противоречивые чувства?

Psychologies
От Натальи Гончаровой до Наталии Турновой: главные работы русских художниц за 100 лет От Натальи Гончаровой до Наталии Турновой: главные работы русских художниц за 100 лет

Арт-критик Людмила Бредихина — о феминистской эстетике и женском искусстве

Forbes
Араму 60! Араму 60!

Латук недолговечен, воспоминания великого человека — бесценны!

Собака.ru
Потерявшие реальность: как женщины осваивались на чужбине Потерявшие реальность: как женщины осваивались на чужбине

Отрывки из дневников женщин, которые надолго уезжали за границу

Forbes
В поисках убитого прошлого В поисках убитого прошлого

Как Алексей Герман вернул в советское кино 1930‑е годы

Weekend
Читаем между строк Читаем между строк

Как себя вести с новым онлайн-знакомым?

Лиза
Как правильно выбрать кружку или бокал для пива? Как правильно выбрать кружку или бокал для пива?

Как можно пить из одной и той же посуды лагер и имперский стаут? Нонсенс!

Maxim
Смерть, долги и разводы: какие шедевры попали на аукционы после раздела имущества Смерть, долги и разводы: какие шедевры попали на аукционы после раздела имущества

Когда разводятся пары, ликуют аукционисты: арт-рынок совершает новый оборот

Forbes
Как сделать день лучше: 3 техники от КПТ-терапевта Как сделать день лучше: 3 техники от КПТ-терапевта

Как облегчить себе сложные дни?

Psychologies
Ошибки на местах: что мешает российским модным брендам развиваться Ошибки на местах: что мешает российским модным брендам развиваться

Какие ошибки совершают российские марки?

Forbes
Испытания в полете: как США запустили к Луне первый за полвека пилотируемый корабль Испытания в полете: как США запустили к Луне первый за полвека пилотируемый корабль

Запуск «Артемиды I» ознаменовал возвращение Соединенных Штатов к освоению Луны

Forbes
От сумасшествия до слепоты: что говорят картины о болезнях художников От сумасшествия до слепоты: что говорят картины о болезнях художников

Как болезни проявлялись в картинах великих художников

Maxim
Топ-3 советских фильмов, герои которых могут побудить вас встать с дивана Топ-3 советских фильмов, герои которых могут побудить вас встать с дивана

Мотивирующие советские картины

Psychologies
«Меня раздражают опечатки и ошибки»: необычный признак интроверта — исследование ученых «Меня раздражают опечатки и ошибки»: необычный признак интроверта — исследование ученых

Если вы строго судите о человеке по ошибкам, то вероятно, что вы интроверт

Psychologies
«Что изменилось в вашей жизни, когда вы стали психологом?»: честные истории 16 экспертов Psychologies «Что изменилось в вашей жизни, когда вы стали психологом?»: честные истории 16 экспертов Psychologies

Что психология дает самим психологам?

Psychologies
Почему отекают ноги: 5 главных причин Почему отекают ноги: 5 главных причин

Стали замечать, что ваши ноги отекают?

ТехИнсайдер
Свидания после развода: 4 главных правила — узнайте, как построить новые отношения Свидания после развода: 4 главных правила — узнайте, как построить новые отношения

Как найти силы снова отправиться на поиск подходящего партнера?

Psychologies
«Это вам не игрушка»: как топ-менеджер Пегги Джонсон создает AR-шлем будущего «Это вам не игрушка»: как топ-менеджер Пегги Джонсон создает AR-шлем будущего

Как Пегги Джонсон меняла бизнес-модель Magic Leap и выводила её из кризиса

Forbes
4 ошибки в питании, из-за которых вы теряете энергию 4 ошибки в питании, из-за которых вы теряете энергию

Какие ошибки в питании стоят вам энергии?

Psychologies
Открыть в приложении