Чем опасны ИИ-модели для бизнеса и почему традиционная ИБ не справляется

Inc.Бизнес

Как увидеть угрозы безопасности при работе с ИИ? Ловите чек-лист

Мировая ИИ-гонка, кажется, охватила все уровни — от государств до малых предпринимателей. Но мало кто задумывается о рисках, связанных с развитием и внедрением новейших технологий, в том числе, в сфере информационной безопасности. А они весьма существенные.

Текст: Александр Пинаев, генеральный директор Swordfish Security

1360-x-900_ii-opasnost.jpg
Фото: Unsplash

Новые угрозы: чем опасны ИИ-модели для бизнеса

Например, существует угроза нарушений конфиденциальности: данные, отправленные во внешнюю большую языковую модель (LLM), могут быть раскрыты или скомпрометированы. Компании не без оснований беспокоятся о таких рисках, как потеря данных, кража моделей. Без надежных механизмов контроля доступа пользователи могут с помощью генеративных ИИ (GenAI) получить доступ к конфиденциальной информации.

Если модели используются для взаимодействия с клиентами, данные может получить конкурент. А ведь есть еще и регуляторные риски, которые будут только расти, потому что технологии развиваются быстрее, чем законодательство. Пользовательские запросы могут вызывать непоследовательные или предвзятые ответы, что несет риски нарушения нормативных требований или этических стандартов. Иными словами, плохо защищенная модель может выдавать в ответах, в том числе, запрещенную информацию, распространение которой ведет к ответственности — вплоть до уголовной.

Агентные приложения, обладающие автономностью и доступом к различным системам, сталкиваются с рядом серьезных угроз безопасности, включая несанкционированный доступ и расширенную поверхность атаки из-за интеграции с несколькими внешними системами. То есть, если они имеют доступ к вашим контактам или календарю, контакты и календарь тоже окажутся под угрозой.

Но и это не самое страшное, ведь если злоумышленник получит контроль над автономным агентом, последствия могут быть критическими, особенно в системах жизнеобеспечения, финансах или инфраструктуре. Поэтому необходимо внедрять жесткие механизмы управления доступом и сквозное шифрование для защиты от подобных угроз.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Бизнесмены со школьной скамьи: предприниматели вспоминают истории из детства Бизнесмены со школьной скамьи: предприниматели вспоминают истории из детства

Уже со школы наши герои показывали смекалку и предпринимательские способности

Inc.
Традиционная стабильность Традиционная стабильность

Какое место в энергетике будущего будут занимать уголь, нефть и газ

Ведомости
«Мне ни на что не хватает!»: 4 типа отношения к деньгам «Мне ни на что не хватает!»: 4 типа отношения к деньгам

Как нормализовать свое отношение к деньгам?

Psychologies
Грудное молоко помешало бактерии вызвать воспаление в кишечнике новорожденного Грудное молоко помешало бактерии вызвать воспаление в кишечнике новорожденного

Как материнское грудное молоко защает ребенка от дисбиоза и воспаления кишечника

N+1
Используй ложку и телефон: 20 способов доставить себе удовольствие Используй ложку и телефон: 20 способов доставить себе удовольствие

Двадцать разных способов мастурбации на любой вкус и цвет

Cosmopolitan
Музей как увлечение Музей как увлечение

Единственный в своем роде: музей при Институте космических исследований РАН

Знание – сила
Банки на передовой Банки на передовой

Как работала финансовая система СССР во время войны

Эксперт
Из портов на биржу Из портов на биржу

Угольщики стремятся расширить сбыт на внутреннем рынке на фоне падения экспорта

Ведомости
Маленькие шаги к переменам Маленькие шаги к переменам

Интервью с создателем инклюзивных раскрасок и игрушек Натальей Пониной

Лиза
Дорогой инноваций Дорогой инноваций

Что изменит высокоскоростная магистраль Москва — Санкт-Петербург

Эксперт
Пифагор, или Теорема с одним неизвестным Пифагор, или Теорема с одним неизвестным

«Нет ни одной детали в жизни Пифагора, которая не была бы опровергнута»

Дилетант
«Мы уже не живем в своей колыбели» «Мы уже не живем в своей колыбели»

Чем дышит и живет Институт космических исследований РАН?

Знание – сила
Строительство на Марсе: как грибы и цианобактерии помогут развитию колоний Строительство на Марсе: как грибы и цианобактерии помогут развитию колоний

Для строительства на Марсе не понадобятся ракеты с рабочими материалами

ТехИнсайдер
Почему понедельник – самый опасный день недели? Дело не только в работе Почему понедельник – самый опасный день недели? Дело не только в работе

Статистика неумолима: именно на понедельник приходится пик сердечных приступов

Inc.
Чернохвостые оленихи унаследовали миграционные маршруты матерей Чернохвостые оленихи унаследовали миграционные маршруты матерей

Как самки оленей учатся мигрировать у собственных матерей

N+1
Золотой век английской карикатуры Золотой век английской карикатуры

«Отечество карикатуры и пародии» — об Англии Георгианской эпохи

Дилетант
Лечение изнутри: 5 продуктов, которые следует есть при солнечном ожоге Лечение изнутри: 5 продуктов, которые следует есть при солнечном ожоге

Какие продукты могут ускорить процесс заживления кожи при солнечном ожоге

ТехИнсайдер
Как Ленин дэвов побеждал Как Ленин дэвов побеждал

Какие отпечатки оставили на народах России события на рубеже XIX и XX веков

Дилетант
«Пишите… А. Куприн» «Пишите… А. Куприн»

Эмиграция сложилась для Куприна не просто трудно, а скорее — трагически

Дилетант
Инфляция в белых халатах Инфляция в белых халатах

Медицинская инфляция может ускориться до 14% к концу года

Ведомости
Поверив Гомеру… Поверив Гомеру…

Действительно ли Троя — это тот город, о котором идёт речь в «Илиаде»?

Дилетант
Страховка с биткойном Страховка с биткойном

Как работают инвестиционные полисы с привязкой к биткойну

Ведомости
В ожидании Меркурия В ожидании Меркурия

Меркурий единственная планета Солнечной системы без атмосферы с магнитным полем

Наука и жизнь
Стукнул чужое авто на парковке, оставил телефонный номер и уехал: можно ли так поступить Стукнул чужое авто на парковке, оставил телефонный номер и уехал: можно ли так поступить

Можно ли покинуть место ДТП, оставив записку с телефонным номером?

ТехИнсайдер
Мировой экономике становится все хуже Мировой экономике становится все хуже

Почему мировая экономика продолжает замедляться

Монокль
Пустые кресла и забытые письма: одиночество как экспонат Пустые кресла и забытые письма: одиночество как экспонат

Мы приезжаем в музей смотреть не на экспонаты, а внутрь себя

Знание – сила
Культурная повестка: «Исток» Культурная повестка: «Исток»

Софья Эрнст — о своем отношении к русской культуре и традициям

Moodboard
Женщина с иммуносупрессией заразилась кошачьей бактерией Женщина с иммуносупрессией заразилась кошачьей бактерией

Врачи сообщили о редком случае инфекции, вызванной бактерией Mycoplasma arginini

N+1
Зазеркалье времени: лучшие экранизации «Алисы в Стране чудес» — от немого кино до голливудского фэнтези Зазеркалье времени: лучшие экранизации «Алисы в Стране чудес» — от немого кино до голливудского фэнтези

Самые значимые экранизации «Алисы»: как каждая из них отражает свое время

Правила жизни
Сеньоры на потоке Сеньоры на потоке

Зачем Минцифры запускает новые программы подготовки IT-кадров

Ведомости
Открыть в приложении