Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Время омолодиться: что важно знать о необычном весеннем грибе саркосоме шаровидной или «ведьмином котелке» Время омолодиться: что важно знать о необычном весеннем грибе саркосоме шаровидной или «ведьмином котелке»

Почему саркосому шаровидную называют «молодильным яблоком»?

ТехИнсайдер
Футболисты, которых казнили и сажали за проигрыш Футболисты, которых казнили и сажали за проигрыш

Даже футбол не везде безопасен, иногда за него можно поплатиться жизнью

Maxim
Цифровой сценарист: как ИИ создает иллюзию свободы выбора Цифровой сценарист: как ИИ создает иллюзию свободы выбора

Как научиться распознавать технологические манипуляции

Forbes
Зависимое расстройство личности: 10 признаков — как распознать проблему Зависимое расстройство личности: 10 признаков — как распознать проблему

Что такое зависимое расстройство личности и как оно проявляется?

Psychologies
Девушки и яйца: как стильные и вкусные завтраки приносят сотни миллионов Девушки и яйца: как стильные и вкусные завтраки приносят сотни миллионов

Как две девушки сделали бизнес на блюдах с яйцами?

Forbes
«Что изменилось в вашей жизни, когда вы стали психологом?»: честные истории 16 экспертов Psychologies «Что изменилось в вашей жизни, когда вы стали психологом?»: честные истории 16 экспертов Psychologies

Что психология дает самим психологам?

Psychologies
«Пора заводить собаку!»: что нужно знать до появления питомца — взвесьте за и против «Пора заводить собаку!»: что нужно знать до появления питомца — взвесьте за и против

Как понять, что пора завести щенка? И когда этого делать категорически не нужно?

Psychologies
Кино — дело тонкое: быстрый гид по фильмам Средней Азии и Казахстана Кино — дело тонкое: быстрый гид по фильмам Средней Азии и Казахстана

Забытые, неоцененные современниками фильмы Казахстана и Средней Азии

Правила жизни
Самый обаятельный маньяк в истории: как Джек Унтервегер очаровал весь мир, чтобы продолжить убивать Самый обаятельный маньяк в истории: как Джек Унтервегер очаровал весь мир, чтобы продолжить убивать

Как маньяк стал культовым поэтом и писателем

VOICE
«Замужем и счастлива — я одна такая?»: как построить и сохранить крепкие отношения «Замужем и счастлива — я одна такая?»: как построить и сохранить крепкие отношения

Почему женщины боятся вступать в брак?

Psychologies
Десять лет на гарях и болотах Десять лет на гарях и болотах

Керженский заповедник — «лаборатория» природы и «машина», замедляющая время

Наука и жизнь
10 способов обращения с прошлым из сериалов 10 способов обращения с прошлым из сериалов

Как разные сериалы обращаются с историческим прошлым

Weekend
Государство — это всё: как любимый философ Путина воспринял бы новую идеологию России Государство — это всё: как любимый философ Путина воспринял бы новую идеологию России

Почему российское государство не может выработать собственную идеологию?

Forbes
Как в СССР копировали автомобили капиталистического автопрома: не хуже оригинала Как в СССР копировали автомобили капиталистического автопрома: не хуже оригинала

Автопром в Советском Союзе всегда был как хромая лошадь

ТехИнсайдер
Улыбайся смелее! Улыбайся смелее!

Развенчиваем 10 живучих мифов об имплантации зубов

Лиза
Мыслите консервативно? Вот что вам надо изменить, чтобы повысить креативность! Мыслите консервативно? Вот что вам надо изменить, чтобы повысить креативность!

Оказывается, креативность можно тренировать!

ТехИнсайдер
Избавляемся от вредных привычек: простые шаги, которые помогут справиться с проблемой Избавляемся от вредных привычек: простые шаги, которые помогут справиться с проблемой

Как быстро и почти безболезненно избавиться от вредных привычек

ТехИнсайдер
На высшем уровне На высшем уровне

Правила хорошего тона: какие из них актуальны в современной жизни?

Лиза
Как общаться с токсичными коллегами: 5 правил поведения Как общаться с токсичными коллегами: 5 правил поведения

Есть ли среди ваших коллег те, кто любит издеваться над другими?

Psychologies
Десятка худших российских акций в 2022 году: стоит ли их покупать Десятка худших российских акций в 2022 году: стоит ли их покупать

Антитоп из десяти самых обесценившихся акций за первые девять месяцев года

РБК
Секс без обязательств: большой разбор с психологами — изучите все плюсы и минусы Секс без обязательств: большой разбор с психологами — изучите все плюсы и минусы

Мы говорим: «Это же просто секс, ничего серьезного», но так ли это?

Psychologies
Ледяной кулак: как СССР спрятал сверхсекретную военную базу в настоящем айсберге Ледяной кулак: как СССР спрятал сверхсекретную военную базу в настоящем айсберге

Советские инженеры вели строительство «неубиваемой» морской базы внутри айсберга

ТехИнсайдер
Вроде не против: как вынужденное согласие становится опорой для порно-индустрии Вроде не против: как вынужденное согласие становится опорой для порно-индустрии

Отрывок из книги «Темная сторона сексуальной революции»

Forbes
Синдром годовщины: что это и почему так важно знать историю своих предков Синдром годовщины: что это и почему так важно знать историю своих предков

Почему важно знать о том, в честь какого родственника вас назвали?

Psychologies
Прехитрый еврей царя Петра Прехитрый еврей царя Петра

Определение, данное Петру Шафирову Алексеем Толстым, правдиво, но недостаточно

Дилетант
Куросава по-американски: как азиатские режиссеры повлияли на Голливуд Куросава по-американски: как азиатские режиссеры повлияли на Голливуд

Режиссеры, которые опираются на фильмы азиатских мастеров кинематографа

Правила жизни
Святыни буддизма: как музеи в Бурятии работают с религиозными артефактами Святыни буддизма: как музеи в Бурятии работают с религиозными артефактами

В чем актуальность ценностей, изъятых 100 лет назад из буддийских монастырей?

Forbes
Осторожный авантюрист: как сложилась судьба «черного барона» Врангеля Осторожный авантюрист: как сложилась судьба «черного барона» Врангеля

Чем занимался «черный барон» Врангель после эвакуации его армии из Крыма

Вокруг света
Брить или не брить: 17 вех из истории бороды Брить или не брить: 17 вех из истории бороды

Как жители разных уголков мира относились к растительности на лице

Вокруг света
Куклы, сделанные из мертвых детей: история Анатолия Москвина, окружившего себя телами подростков Куклы, сделанные из мертвых детей: история Анатолия Москвина, окружившего себя телами подростков

Куклы из детей: нервы сдавали даже у следователей, которые видели многое

VOICE
Открыть в приложении