Чем опасны ИИ-модели для бизнеса и почему традиционная ИБ не справляется

Inc.Бизнес

Как увидеть угрозы безопасности при работе с ИИ? Ловите чек-лист

Мировая ИИ-гонка, кажется, охватила все уровни — от государств до малых предпринимателей. Но мало кто задумывается о рисках, связанных с развитием и внедрением новейших технологий, в том числе, в сфере информационной безопасности. А они весьма существенные.

Текст: Александр Пинаев, генеральный директор Swordfish Security

1360-x-900_ii-opasnost.jpg
Фото: Unsplash

Новые угрозы: чем опасны ИИ-модели для бизнеса

Например, существует угроза нарушений конфиденциальности: данные, отправленные во внешнюю большую языковую модель (LLM), могут быть раскрыты или скомпрометированы. Компании не без оснований беспокоятся о таких рисках, как потеря данных, кража моделей. Без надежных механизмов контроля доступа пользователи могут с помощью генеративных ИИ (GenAI) получить доступ к конфиденциальной информации.

Если модели используются для взаимодействия с клиентами, данные может получить конкурент. А ведь есть еще и регуляторные риски, которые будут только расти, потому что технологии развиваются быстрее, чем законодательство. Пользовательские запросы могут вызывать непоследовательные или предвзятые ответы, что несет риски нарушения нормативных требований или этических стандартов. Иными словами, плохо защищенная модель может выдавать в ответах, в том числе, запрещенную информацию, распространение которой ведет к ответственности — вплоть до уголовной.

Агентные приложения, обладающие автономностью и доступом к различным системам, сталкиваются с рядом серьезных угроз безопасности, включая несанкционированный доступ и расширенную поверхность атаки из-за интеграции с несколькими внешними системами. То есть, если они имеют доступ к вашим контактам или календарю, контакты и календарь тоже окажутся под угрозой.

Но и это не самое страшное, ведь если злоумышленник получит контроль над автономным агентом, последствия могут быть критическими, особенно в системах жизнеобеспечения, финансах или инфраструктуре. Поэтому необходимо внедрять жесткие механизмы управления доступом и сквозное шифрование для защиты от подобных угроз.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Нужно быть готовым к войнам и землетрясениям». Советы туроператора с 35-летним стажем «Нужно быть готовым к войнам и землетрясениям». Советы туроператора с 35-летним стажем

Как оставаться на плаву и быть успешным в туризме?

Inc.
15 уроков периода высоких ставок глазами банкира 15 уроков периода высоких ставок глазами банкира

Что мы поняли за годы высоких ставок?

Ведомости
Как мотивировать сотрудников: повышаем работоспособность команды Как мотивировать сотрудников: повышаем работоспособность команды

Проверенные стратегии повышения вовлеченности сотрудников на основе кейсов

Inc.
Как вернуться в бизнес после банкротства Как вернуться в бизнес после банкротства

Как можно остаться «на плаву» после банкротства

Inc.
Читалка для компьютера: выбираем лучшую из бесплатных Читалка для компьютера: выбираем лучшую из бесплатных

Лучшие читалки для компьютера из бесплатных программ

CHIP
Инфляция в белых халатах Инфляция в белых халатах

Медицинская инфляция может ускориться до 14% к концу года

Ведомости
Холсты за миллионы долларов: самые дорогие картины отечественных художников Холсты за миллионы долларов: самые дорогие картины отечественных художников

О самых дорогих картинах, вышедших из под кистей российских мэтров живописи

ТехИнсайдер
Горячая линия поддержки для мужчин: что такое мэнкипинг и как он влияет на женщин Горячая линия поддержки для мужчин: что такое мэнкипинг и как он влияет на женщин

Как не потерять себя и отношения из-за мэнкипинга

Forbes
Зумеры признались, людей какого возраста они считают старыми Зумеры признались, людей какого возраста они считают старыми

Молодежь считает, что старость начинается гораздо раньше, чем вы думали

Maxim
Золотой век английской карикатуры Золотой век английской карикатуры

«Отечество карикатуры и пародии» — об Англии Георгианской эпохи

Дилетант
Интернет из папки: готовы ли российские суды доверять электронным доказательствам Интернет из папки: готовы ли российские суды доверять электронным доказательствам

Как цифровизация сказывается на судебных процессах в России?

Forbes
Глубокий политэконом Глубокий политэконом

Как Адам Смит заложил основы современной экономической теории

Деньги
Знать без царя в голове Знать без царя в голове

Мини-сериал о сестрах Митфорд, которые искали любовь, а нашли политику

Weekend
Тело как история Тело как история

Героини нашего спецпроекта — об опыте травмы, исцеления и принятия

Новый очаг
Вековые традиции Вековые традиции

Не получается нарисовать стрелки, а тени сразу скатываются?

Лиза
Хидео Кодзима Хидео Кодзима

Правила жизни геймдизайнера Хидео Кодзимы

Правила жизни
Как Мишель Ся стала миллиардершей, создав компанию по производству лекарств от рака Как Мишель Ся стала миллиардершей, создав компанию по производству лекарств от рака

Как Мишель Ся стала одной из богатейших self-made-женщин в здравоохранении

Forbes
Покладистая жена и муж из деревни: как и зачем в Китае рекламируют русских женщин Покладистая жена и муж из деревни: как и зачем в Китае рекламируют русских женщин

Зачем китайцев все чаще стали подталкивать к бракам с иностранками

Forbes
Мурат Абулкатинов: Не надо пытаться быть больше, чем ты есть Мурат Абулкатинов: Не надо пытаться быть больше, чем ты есть

Режиссер Мурат Абулкатинов — о том, что ему нравится в шекспировской драматургии

Ведомости
Накрутил €50 млн: как Тадей Погачар стал самым высокооплачиваемым велогонщиком мира Накрутил €50 млн: как Тадей Погачар стал самым высокооплачиваемым велогонщиком мира

Как Тадей Погачар стал самым высокооплачиваемым велогонщиком мира

Forbes
Что будет в небе после МКС Что будет в небе после МКС

Через пять лет над Землёй будут работать станции разных стран, а не одна МКС

Монокль
Длительное ожирение вызвало экспрессию биомаркеров старения в молодом возрасте Длительное ожирение вызвало экспрессию биомаркеров старения в молодом возрасте

Как ожирение снижает ожидаемую продолжительность жизни

N+1
Прием гипотензивных препаратов вечером обеспечил лучший контроль давления Прием гипотензивных препаратов вечером обеспечил лучший контроль давления

Как контроль приема гипотензивных препаратов контролирует гипертензию

N+1
Уже не косметика, но еще не лекарство: чем опасна космецевтика Уже не косметика, но еще не лекарство: чем опасна космецевтика

Чем опасно бесконтрольное применение космецевтики?

Forbes
Летаем с комфортом: от каких напитков нужно отказаться на борту самолета, а к каким стоит присмотреться? Летаем с комфортом: от каких напитков нужно отказаться на борту самолета, а к каким стоит присмотреться?

Какие напитки лучше пить в самолете?

ТехИнсайдер
«Все это было чудом» «Все это было чудом»

«Союз» — «Аполлон»: пример того, что космос возможен как зона сотрудничества

Монокль
Делим заботы поровну Делим заботы поровну

Муж не помогает по дому: как исправить ситуацию без стресса

Лиза
ГМ-бактерия разрушила избыточные оксалаты в кишечнике крыс и людей ГМ-бактерия разрушила избыточные оксалаты в кишечнике крыс и людей

Как ученые создали бактерию для борьбы с кишечной гипероксалурией

N+1
Женщина с иммуносупрессией заразилась кошачьей бактерией Женщина с иммуносупрессией заразилась кошачьей бактерией

Врачи сообщили о редком случае инфекции, вызванной бактерией Mycoplasma arginini

N+1
«Кто придумал землю? Путеводитель по геофилософии от Делёза и Деррида до Агамбена и Латура» «Кто придумал землю? Путеводитель по геофилософии от Делёза и Деррида до Агамбена и Латура»

Правильно ли противопоставлять природу и культуру

N+1
Открыть в приложении