Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Ущипните меня: Mazda запатентовала 6-тактный двигатель, который сам для себя делает водород Ущипните меня: Mazda запатентовала 6-тактный двигатель, который сам для себя делает водород

Может ли мотор производить водородное топливо, потребляя бензин?

ТехИнсайдер
Оправдать или отречься: стратегии поведения матерей убийц — 6 реальных примеров Оправдать или отречься: стратегии поведения матерей убийц — 6 реальных примеров

Родители убийц по-разному воспринимают преступления, совершенные их детьми

Psychologies
Зачем закрывать приложения на смартфоне: борьба с цифровыми вампирами Зачем закрывать приложения на смартфоне: борьба с цифровыми вампирами

Вы когда-нибудь замечали, что ваш смартфон внезапно начинает нагреваться?

ТехИнсайдер
Невнимательность или упрямство: почему подростки не соблюдают правила гигиены? Невнимательность или упрямство: почему подростки не соблюдают правила гигиены?

Что делать, если ваш ребенок превратился в неопрятного тинейджера?

Psychologies
История мира в шести стаканах История мира в шести стаканах

Как ваши любимые напитки изменили мир

kiozk originals
Авария Пола Уокера: что случилось со звездой «Форсажа» 9 лет назад Авария Пола Уокера: что случилось со звездой «Форсажа» 9 лет назад

Вспоминаем знаменитого актера Пола Уокера и как он ушел из жизни

РБК
Город-конвейер, небоскреб со статуей Ленина и парящие дома: самые безумные и эпичные проекты советских архитекторов Город-конвейер, небоскреб со статуей Ленина и парящие дома: самые безумные и эпичные проекты советских архитекторов

Неординарные проекты советских конструктивистов

Правила жизни
Дать себе волю Дать себе волю

Отчего же мы не спешим упражняться в управлении своей жизнью?

Psychologies
«Идеи о справедливости» «Идеи о справедливости»

Шариат и культурные изменения в русском Туркестане: отрывок из книги

N+1
Поэты соцреализма: 12 фильмов братьев Дарденн — от худшего к лучшему Поэты соцреализма: 12 фильмов братьев Дарденн — от худшего к лучшему

На счету режиссерского тандема Дарденн 12 картин, и мы рассмотрим каждую из них

Правила жизни
Действуй, сестра: как четыре дагестанки сбежали от домашнего насилия Действуй, сестра: как четыре дагестанки сбежали от домашнего насилия

Почему кавказские женщины покидают свои дома?

Forbes
Как сделать день лучше: 3 техники от КПТ-терапевта Как сделать день лучше: 3 техники от КПТ-терапевта

Как облегчить себе сложные дни?

Psychologies
Чужие деньги Трампа: как экс-президент США привлекает спонсоров на свои нужды Чужие деньги Трампа: как экс-президент США привлекает спонсоров на свои нужды

Как миллиардеру стать американским политиком, не расставаясь с деньгами?

Forbes
Почему в последние мгновения жизни люди видят одни и те же образы Почему в последние мгновения жизни люди видят одни и те же образы

Что же видят люди перед концом этого своего "фильма-жизни"?

ТехИнсайдер
Синдром годовщины: что это и почему так важно знать историю своих предков Синдром годовщины: что это и почему так важно знать историю своих предков

Почему важно знать о том, в честь какого родственника вас назвали?

Psychologies
Ксенонотерапия Ксенонотерапия

Зачем дышать газом и может ли это быть опасно

Лиза
«Крик — последний аргумент»: 3 жизненных примера — как реагировать на манипуляции «Крик — последний аргумент»: 3 жизненных примера — как реагировать на манипуляции

Почему все так любят повышать голос?

Psychologies
Wi-Fi нашего мозга: почему без клауструма люди стали бы глупыми и беспомощными Wi-Fi нашего мозга: почему без клауструма люди стали бы глупыми и беспомощными

Нейробиологи искали, где прячется сознание, а нашли «маршрутизатор»

Вокруг света
Покупаете кофе навынос? Ученые рассказали, почему это опасно для здоровья Покупаете кофе навынос? Ученые рассказали, почему это опасно для здоровья

Кофе навынос с утра пораньше дарит человеку не только заряд бодрости

Psychologies
История One Taste: как стартап о женском удовольствии превратился в культ насилия История One Taste: как стартап о женском удовольствии превратился в культ насилия

Николь Дэдоне основала One Taste, который обещал научить женщин получать оргазма

Forbes
Как настроить новый экран блокировки на iPhone Как настроить новый экран блокировки на iPhone

Как самостоятельно настраивать экраны блокировки в iOS 16

CHIP
Как перестать быть удобной для всех Как перестать быть удобной для всех

Как научиться отказывать окружающим?

Лиза
Ископаемые ДНК из средневекового немецкого города рассказали о происхождении евреев-ашкенази Ископаемые ДНК из средневекового немецкого города рассказали о происхождении евреев-ашкенази

Анализ данных современной и древней ДНК может пролить свет на прошлое

ТехИнсайдер
Как понять, что вас выживают с работы: 5 признаков Как понять, что вас выживают с работы: 5 признаков

Как заметить неявное принуждение к увольнению?

Psychologies
Запоры: почему и что делать? Запоры: почему и что делать?

Проблемы с кишечником: как с ними справиться?

Здоровье
«Ненавижу и скучаю»: почему мы испытываем смешанные чувства к тем, с кем больше не хотим быть «Ненавижу и скучаю»: почему мы испытываем смешанные чувства к тем, с кем больше не хотим быть

Почему расставание с человеком вызывает у нас противоречивые чувства?

Psychologies
Одинокий гений Трансильвании: как земляк графа Дракулы нашел карликовых динозавров Одинокий гений Трансильвании: как земляк графа Дракулы нашел карликовых динозавров

Барон Ференц Нопча был капризным аристократом, опередившим свое время

Вокруг света
Город, который построил Осип. Как 200 лет назад Москва приобрела свой нынешний облик Город, который построил Осип. Как 200 лет назад Москва приобрела свой нынешний облик

Осип Бове — архитектор, который создал современный облик Москвы

СНОБ
Что такое ценности: 7 самых важных примеров из жизни Что такое ценности: 7 самых важных примеров из жизни

Что для вас действительно важно и о чем вы, возможно, забываете в суете?

Psychologies
Реклама переезжает в смартфон Реклама переезжает в смартфон

Почему компании все чаще выбирают мобильную рекламу

Деньги
Открыть в приложении