Эксперты выяснили, что многие чат-боты на базе ИИ легко поддаются манипуляциям

Inc.Hi-Tech

Неприятная правда о чат-ботах c ИИ: они способны выдавать незаконную информацию

Эксперты выяснили, что многие чат-боты на базе искусственного интеллекта (ИИ) легко поддаются манипуляциям. Это позволяет им создавать вредоносный и незаконный контент. Специалисты предупреждают: то, что раньше было доступно только государственным структурам или преступным группировкам, теперь может оказаться в руках любого пользователя с ноутбуком или смартфоном.

Екатерина Зеленина Новостной редактор «Инк.». Бывший автор медицинского портала Madmed.media, инженер по профессии

1tnS_BVy9Jk.webp

Такие чат-боты, как ChatGPT, Gemini и Claude, работают на основе больших языковых моделей (LLM), которые обучаются на обширных данных из интернета. Несмотря на попытки исключить опасный контент, LLM все равно усваивают информацию о незаконной деятельности, включая хакерство, отмывание денег, инсайдерскую торговлю и изготовление взрывных устройств.

Профессор Лиор Рокач и доктор Майкл Файр из Университета Бен-Гуриона в Негеве, обнаружили возрастающую опасность, связанную с «темными LLM» — моделями ИИ, которые либо сознательно создаются без обеспечения безопасности, либо подвергаются взлому. Некоторые из них открыто продвигаются в интернете как модели, не имеющие «этических ограничений», и могут использоваться для незаконных действий, таких как киберпреступность и мошенничество.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как увидеть угрозы безопасности при работе с ИИ? Ловите чек-лист Как увидеть угрозы безопасности при работе с ИИ? Ловите чек-лист

Чем опасны ИИ-модели для бизнеса и почему традиционная ИБ не справляется

Inc.
Время на даче: 4 сценария Время на даче: 4 сценария

Несколько работающих идей, как провести уикенд за городом нескучно

КАНТРИ Русская азбука
Нейросети в поисках персонала: как компании используют искусственный интеллект в рекрутинге уже сейчас Нейросети в поисках персонала: как компании используют искусственный интеллект в рекрутинге уже сейчас

Как рекрутеры используют нейросети — кейсы из России

ТехИнсайдер
Потепление на полтора градуса пойдет на пользу сибирской тайге Потепление на полтора градуса пойдет на пользу сибирской тайге

Как повлияет потепление климата на амазонские леса и сибирскую тайгу?

N+1
Как начать переписку с девушкой, чтобы она точно ответила Как начать переписку с девушкой, чтобы она точно ответила

Лучшие заменители опостылевшего всем «Привет! Как дела?»

Maxim
Разработана первая вакцина от птичьего гриппа для коров Разработана первая вакцина от птичьего гриппа для коров

Ученые разработали первую мРНК-вакцину от птичьего гриппа для коров

ТехИнсайдер
Отдых в стиле прованс Отдых в стиле прованс

Загородная дача в авторском прочтении французской классики

SALON-Interior
Ландышевое дерево Ландышевое дерево

Ландышевое дерева, или халезия, — украшение майского сада

Наука и жизнь
Хоббиномика: как научиться управлять вниманием и развить эмпатию с помощью чтения Хоббиномика: как научиться управлять вниманием и развить эмпатию с помощью чтения

Почему чтение все еще актуально и где искать хорошие книжные рекомендации

Forbes
Аммиак из пингвиньего гуано внес вклад в формирование облаков над Антарктидой Аммиак из пингвиньего гуано внес вклад в формирование облаков над Антарктидой

Из-за чего падает облачность в Антарктике?

N+1
В уюте и прохладе В уюте и прохладе

Как защитить квартиру от жарких солнечных лучей

Лиза
От ассистентки до инвестора SpaceX: как экс-сотрудница Маска стала успешной в бизнесе От ассистентки до инвестора SpaceX: как экс-сотрудница Маска стала успешной в бизнесе

Как Баттерфилд работала с Маском и какой путь она выбрала, когда ушла из SpaceX

Forbes
Нереальная любовь Нереальная любовь

Как и почему «эмоциональные» чат-боты стали заменять настоящих партнеров

РБК
Проекции в психологии Проекции в психологии

Проекция в психологии – это бессознательный защитный механизм

Лиза
Самое полезное время Самое полезное время

Утренние привычки, которые ускоряют уход веса

Лиза
Интервальное голодание: почему нет эффекта Интервальное голодание: почему нет эффекта

Почему интервальное голодание может не сработать и как избежать ошибок

Лиза
Пять штрихов к портрету «Афгана» Пять штрихов к портрету «Афгана»

Ключевые задачи и решения 40-й армии в Афганистане

Монокль
Путь ради ребенка: как Ада Блэкджек одна выживала в экспедиции на острове Врангеля Путь ради ребенка: как Ада Блэкджек одна выживала в экспедиции на острове Врангеля

57 дней в одиночестве: невероятная история Ады Блэкджек

Forbes
Борьба вместо рестлинга: Халк Хоган создал профессиональную лигу и привлек чемпионов Борьба вместо рестлинга: Халк Хоган создал профессиональную лигу и привлек чемпионов

Пиво, чемпионы и венчурные фонды: зачем Халк Хоган создал свою лигу?

Forbes
Ирина Безрукова: «Во мне до сих пор живет девушка, которая верит в то, что не может же быть только «безнадега точка ру» Ирина Безрукова: «Во мне до сих пор живет девушка, которая верит в то, что не может же быть только «безнадега точка ру»

Где этот островок надежды, радости, любви, где свет в конце того самого тоннеля?

Коллекция. Караван историй
История Мадлен Астор, беременной молодой жены богача, которая выжила на «Титанике» История Мадлен Астор, беременной молодой жены богача, которая выжила на «Титанике»

Как беременной Мадлен Астор удалось выжить при крушении «Титаника»?

ТехИнсайдер
Если ты аэрофоб Если ты аэрофоб

Как перестать бояться летать на самолетах

Лиза
Россия признала вино Россия признала вино

Как развивается в России производство винной продукции

Ведомости
Как работает институт многоженства и с чем сталкиваются женщины в таких семьях Как работает институт многоженства и с чем сталкиваются женщины в таких семьях

Почему женщины соглашаются становиться вторыми женами и какие риски несут

Forbes
Марками по маркетплейсам Марками по маркетплейсам

Как АКОРТ предлагает поступить с маркировками товаров на маркетплейсах

Ведомости
Стравинский. Танцы. Люди Стравинский. Танцы. Люди

Денис Мережковский разбирается в правилах хореографического импортозамещения

Moodboard
Андрей Кирсанов Андрей Кирсанов

Андрей Кирсанов по-настоящему круто умеет смотреть объективом в глаза

Собака.ru
Как дети, честное слово Как дети, честное слово

Как изобретали детство: когда появились детские игрушки, одежда и литература

Вокруг света
Почему не стоит оставлять открытыми алюминиевые банки в холодильнике Почему не стоит оставлять открытыми алюминиевые банки в холодильнике

Безопасно ли есть из железных банок, которые были оставлены открытыми?

ТехИнсайдер
Командно-административная экология Командно-административная экология

Достижение устойчивого развития в большей степени лежит в политической плоскости

Ведомости
Открыть в приложении