Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Обзор Hyundai Staria: так ли хорошо едет «спейс шаттл», как выглядит Обзор Hyundai Staria: так ли хорошо едет «спейс шаттл», как выглядит

Hyundai Staria: Внеземной минивэн по земным ценам

ТехИнсайдер
Билл Гейтс посоветовал 5 книг на новогодние праздники Билл Гейтс посоветовал 5 книг на новогодние праздники

Подборка книг от Билла Гейтса на новогодние каникулы.

Inc.
Наш ответ ChatGPT: как российские стартапы делают бизнес на генеративном ИИ Наш ответ ChatGPT: как российские стартапы делают бизнес на генеративном ИИ

Что происходит на рынке генеративного ИИ в России и мире

Inc.
Что мы читали в ноябре: 8 книг, которые вы могли пропустить (а зря) Что мы читали в ноябре: 8 книг, которые вы могли пропустить (а зря)

Максим Мамлыга собрал литературные сливки

Правила жизни
5 привычек, которые бесят всех врачей 5 привычек, которые бесят всех врачей

Почему врач не может поставить вам правильный диагноз?

Maxim
От сумасшествия до слепоты: что говорят картины о болезнях художников От сумасшествия до слепоты: что говорят картины о болезнях художников

Как болезни проявлялись в картинах великих художников

Maxim
Как создать на телефоне приватную папку, которую никто не увидит Как создать на телефоне приватную папку, которую никто не увидит

Лучший способ обезопасить хранимые в телефоне файлы – создать скрытую папку

CHIP
Как сделать день лучше: 3 техники от КПТ-терапевта Как сделать день лучше: 3 техники от КПТ-терапевта

Как облегчить себе сложные дни?

Psychologies
Чихать на аллергию: как работает аллерговакцина Чихать на аллергию: как работает аллерговакцина

Разбираемся, как работает АСИТ, которая может спасти вас от аллергии

СНОБ
Полосатые озорники: 4 факта о бурундуках Полосатые озорники: 4 факта о бурундуках

Жизнь бурундука вовсе не похожа на приключения экранных героев

Вокруг света
История ушанки, ставшей знаковым предметом в СССР История ушанки, ставшей знаковым предметом в СССР

Статус советского человека легко можно было определить по его зимней шапке

Maxim
Кем на самом деле был Дейл Карнеги: гением или шарлатаном? Кем на самом деле был Дейл Карнеги: гением или шарлатаном?

Разбираемся в плюсах и минусах учения Дейла Карнеги

Maxim
В Америке о таких автомобилях и не слышали: какими были пикапы в СССР В Америке о таких автомобилях и не слышали: какими были пикапы в СССР

Пикапы в СССР строили, причем, с разным уровнем “колхоза”

ТехИнсайдер
Признанная иноагентом Юлия Цветкова: «Воплощаю все, что не любит государство» Признанная иноагентом Юлия Цветкова: «Воплощаю все, что не любит государство»

Юлия Цветкова — как судебное дело повлияло на её жизнь?

Forbes
Кровные узы: история про братьев и непрощенную обиду Кровные узы: история про братьев и непрощенную обиду

Как пережить обиду близкого человека?

Psychologies
Вечные опоры Вечные опоры

Два века назад железнодорожные виадуки связали разобщенные регионы мира

Вокруг света
От Натальи Гончаровой до Наталии Турновой: главные работы русских художниц за 100 лет От Натальи Гончаровой до Наталии Турновой: главные работы русских художниц за 100 лет

Арт-критик Людмила Бредихина — о феминистской эстетике и женском искусстве

Forbes
Диковинные собрания: 8 музеев с удивительной архитектурой Диковинные собрания: 8 музеев с удивительной архитектурой

Музеи, которые знамениты не только своими коллекциями

Вокруг света
Хищники в центре Москвы и цветущий кофе в Петербурге: 5 лучших ботанических садов России Хищники в центре Москвы и цветущий кофе в Петербурге: 5 лучших ботанических садов России

Путешествуем вокруг света, не покидая пределов страны

Вокруг света
Почему шотландский виски — напиток интеллектуалов Почему шотландский виски — напиток интеллектуалов

С помощью этого напитка ты можешь очаровывать друзей и заводить девушек

Maxim
Павел Бесчастнов: «Тревога – это базовая функция выживания, испытывать которую могут только люди» Павел Бесчастнов: «Тревога – это базовая функция выживания, испытывать которую могут только люди»

Что такое тревога и почему некоторые люди тревожатся больше, чем остальные

Здоровье
Не подавляй, а управляй: как умение распознавать свои эмоции делает жизнь лучше Не подавляй, а управляй: как умение распознавать свои эмоции делает жизнь лучше

Чего мы лишаемся, когда отказываемся чувствовать?

Psychologies
Как не купить б/у машину со скрученным пробегом. Инструкция от экспертов Как не купить б/у машину со скрученным пробегом. Инструкция от экспертов

Как проверить, не скручен ли пробег, и какие модели в зоне риска

РБК
Откуда в пиве женские гормоны: факты против вымысла и народных баек Откуда в пиве женские гормоны: факты против вымысла и народных баек

Пиво – возможно, один из самых ранних напитков, созданных руками человека

ТехИнсайдер
10 весомых причин добавлять уксус в стиральную машинку: полезные лайфхаки для стирки 10 весомых причин добавлять уксус в стиральную машинку: полезные лайфхаки для стирки

Добавьте 9% уксус в список необходимых средств для стирки!

ТехИнсайдер
Фармацевтика держит удар Фармацевтика держит удар

У отечественной фармацевтической отрасли есть потенциал для развития

РБК
Как скачать WhatsApp на HUAWEI из AppGallery Как скачать WhatsApp на HUAWEI из AppGallery

Вотсап – один из популярных мессенджеров. Как установить его на HUAWEI?

CHIP
Реклама переезжает в смартфон Реклама переезжает в смартфон

Почему компании все чаще выбирают мобильную рекламу

Деньги
Записки отельера: история о невесте на час, или почему в гостиничном бизнесе необходимы сотрудники с разнообразными навыками Записки отельера: история о невесте на час, или почему в гостиничном бизнесе необходимы сотрудники с разнообразными навыками

Как интерес к личной жизни гостей отеля иногда спасает от лишних проблем

Правила жизни
Инвесторы держат руку на пульсе Инвесторы держат руку на пульсе

О роли народных масс на рынках акционерного и долгового капитала

Деньги
Открыть в приложении