Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Шимпанзе способны оказывать медицинскую помощь друг другу Шимпанзе способны оказывать медицинскую помощь друг другу

Приматы не только залечивают собственные раны, но и помогают сородичам

ТехИнсайдер
«Я всю жизнь сторонюсь радикализма»: Евгений Чебатков — о том, что он любит в истории, не любит в юморе, и о злости «Я всю жизнь сторонюсь радикализма»: Евгений Чебатков — о том, что он любит в истории, не любит в юморе, и о злости

Евгений Чебатков — комик, который успевает озвучивать аудиокниги и писать рэп

Правила жизни
Динамически меняющая внешность маска поможет обмануть систему распознавания лиц Динамически меняющая внешность маска поможет обмануть систему распознавания лиц

Инженеры создали маску, способную изменять форму лица и цвет кожи

N+1
Собаки в Новой Зеландии научились водить машину. Будущее уже рядом! Собаки в Новой Зеландии научились водить машину. Будущее уже рядом!

Животных можно научить буквально всему

ТехИнсайдер
Природное и культурное наследие: 5 самых впечатляющих объектов из списка ЮНЕСКО в России Природное и культурное наследие: 5 самых впечатляющих объектов из списка ЮНЕСКО в России

Впечатляющие объекты, входящие в список Всемирного наследия ЮНЕСКО

ТехИнсайдер
Роботы в аграрной отрасли Роботы в аграрной отрасли

Уровень использования новых технологий на сельхозпредприятиях остается невысоким

Агроинвестор
Утомленные призраками Утомленные призраками

Зачем кино воскрешает тиранов и почему не может их отпустить

Weekend
Владелец Folk и Amber — о пустующих ресторанах Дубая и «модном Кавказе» Владелец Folk и Amber — о пустующих ресторанах Дубая и «модном Кавказе»

Основатель Folk Team Дмитрий Романов — о необходимой уникальности форматов

РБК
Названы 40 детских имен, которые приятнее всего произносить родителям Названы 40 детских имен, которые приятнее всего произносить родителям

Научный взгляд на проблему выбора имени ребенку

Вокруг света
Покупаете кофе навынос? Ученые рассказали, почему это опасно для здоровья Покупаете кофе навынос? Ученые рассказали, почему это опасно для здоровья

Кофе навынос с утра пораньше дарит человеку не только заряд бодрости

Psychologies
Как жить с ментальными особенностями: 7 книг о расстройствах, людях и их борьбе Как жить с ментальными особенностями: 7 книг о расстройствах, людях и их борьбе

Что происходит с человеком, у которого обнаружено ментальное расстройство?

Psychologies
Кануан: третья попытка Кануан: третья попытка

Новый кандидат на звание самого роскошного карибского острова

Robb Report
Головоногие моллюски смогли пройти когнитивный тест, предназначенный для человеческих детей Головоногие моллюски смогли пройти когнитивный тест, предназначенный для человеческих детей

Cтранные мозги каракатиц сложнее, чем мы думали

ТехИнсайдер
6 признаков человека, которого недолюбили в детстве 6 признаков человека, которого недолюбили в детстве

Холодность родителей — это трещины в фундаменте нашей взрослой жизни

Psychologies
«Кино задавало вопросы, а зрители ждали ответов» «Кино задавало вопросы, а зрители ждали ответов»

Наум Клейман — о белых пятнах в истории нашего кино

Weekend
Биохимик назвал 7 правил для улучшения памяти и борьбы с деменцией Биохимик назвал 7 правил для улучшения памяти и борьбы с деменцией

Какие факторы жизни ухудшают нашу память?

Inc.
5 заблуждений о серьезности мужских намерений: женские истории комментируют эксперты 5 заблуждений о серьезности мужских намерений: женские истории комментируют эксперты

Можно ли узнать намерения другого человека в начале отношений?

Psychologies
Зеленый город мечты Зеленый город мечты

В Красноярске новые впечатления найдут для себя и урбанисты, и любители тишины

Отдых в России
5 полезных свойств цикория, о которых вы не знали: рассказывают эксперты 5 полезных свойств цикория, о которых вы не знали: рассказывают эксперты

Какие же преимущества есть у цикория?

ТехИнсайдер
Дети в сети Дети в сети

7 рисков, которые подстерегают ребенка в интернете

Лиза
«Монастырь»: как сериал с Настей Ивлеевой понятным языком говорит о вере и церкви «Монастырь»: как сериал с Настей Ивлеевой понятным языком говорит о вере и церкви

Почему РПЦ оказалась недовольна сериалом «Монастырь»?

Forbes
Как не потерять себя в мире, где все одинаковы: фрагмент из сборника рассказов «Невидимые голоса» — о бедности Как не потерять себя в мире, где все одинаковы: фрагмент из сборника рассказов «Невидимые голоса» — о бедности

Если просто, это книга о надежде — надежде на тепло и понимание

Правила жизни
Побои и обрезание: cестры из Дагестана рассказали, почему и как сбежали от семьи Побои и обрезание: cестры из Дагестана рассказали, почему и как сбежали от семьи

Что пришлось пережить сестрам из Дагестана?

Psychologies
10 весомых причин добавлять уксус в стиральную машинку: полезные лайфхаки для стирки 10 весомых причин добавлять уксус в стиральную машинку: полезные лайфхаки для стирки

Добавьте 9% уксус в список необходимых средств для стирки!

ТехИнсайдер
8 самых сомнительных героев СССР 8 самых сомнительных героев СССР

Многие известные деятели СССР были совсем не такими, какими мы их знаем

Maxim
«Сплю в середине рабочего дня ради второго «Сплю в середине рабочего дня ради второго

Издание dev.by поговорило с разработчиками о нестандартных графиках

VC.RU
Любовь к иностранцам и тонны документов: нужно ли открывать бизнес во Вьетнаме Любовь к иностранцам и тонны документов: нужно ли открывать бизнес во Вьетнаме

О чем нужно помнить, чтобы открыть бизнес во Вьетнами и не прогореть?

Forbes
Как читать метафорические карты? Представляем новую колоду и рассказываем принципы работы с ней Как читать метафорические карты? Представляем новую колоду и рассказываем принципы работы с ней

Новая авторская колода метафорических карт «Сад царевны»

Psychologies
Злой, потому что болит: как тело и психика влияют друг на друга Злой, потому что болит: как тело и психика влияют друг на друга

Отрывок из книги «Правда и мифы о психосоматике» о восприятии болевых ощущений

Forbes
Десять лет на гарях и болотах Десять лет на гарях и болотах

Керженский заповедник — «лаборатория» природы и «машина», замедляющая время

Наука и жизнь
Открыть в приложении