Эксперты выяснили, что многие чат-боты на базе ИИ легко поддаются манипуляциям

Inc.Hi-Tech

Неприятная правда о чат-ботах c ИИ: они способны выдавать незаконную информацию

Эксперты выяснили, что многие чат-боты на базе искусственного интеллекта (ИИ) легко поддаются манипуляциям. Это позволяет им создавать вредоносный и незаконный контент. Специалисты предупреждают: то, что раньше было доступно только государственным структурам или преступным группировкам, теперь может оказаться в руках любого пользователя с ноутбуком или смартфоном.

Екатерина Зеленина Новостной редактор «Инк.». Бывший автор медицинского портала Madmed.media, инженер по профессии

1tnS_BVy9Jk.webp

Такие чат-боты, как ChatGPT, Gemini и Claude, работают на основе больших языковых моделей (LLM), которые обучаются на обширных данных из интернета. Несмотря на попытки исключить опасный контент, LLM все равно усваивают информацию о незаконной деятельности, включая хакерство, отмывание денег, инсайдерскую торговлю и изготовление взрывных устройств.

Профессор Лиор Рокач и доктор Майкл Файр из Университета Бен-Гуриона в Негеве, обнаружили возрастающую опасность, связанную с «темными LLM» — моделями ИИ, которые либо сознательно создаются без обеспечения безопасности, либо подвергаются взлому. Некоторые из них открыто продвигаются в интернете как модели, не имеющие «этических ограничений», и могут использоваться для незаконных действий, таких как киберпреступность и мошенничество.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Инк» и «Космос-4» нашли главные страхи бизнесменов при развитии личного бренда «Инк» и «Космос-4» нашли главные страхи бизнесменов при развитии личного бренда

Как внутренние страхи и нехватка времени мешают развивать личный бренд

Inc.
Инженеры довольны своими доходами, а дизайнеры — нет. Почему, и что это значит для бизнеса Инженеры довольны своими доходами, а дизайнеры — нет. Почему, и что это значит для бизнеса

Удовлетворенность зарплатами — надежный барометр

Inc.
Марк Цукерберг раскрыл свою ИИ-стратегию: миллиарды на вычисления, гонка за талантами и новое видение Meta* Марк Цукерберг раскрыл свою ИИ-стратегию: миллиарды на вычисления, гонка за талантами и новое видение Meta*

Марк Цукерберг вкладывает сотни миллиардов в сверхинтеллект

Inc.
Миф о Гере Миф о Гере

В Красной Поляне Геру Митрош знают, кажется, все

Afternoon Seasons of life
«Тест на старика»: а вы сможете его пройти? «Тест на старика»: а вы сможете его пройти?

Если у вас есть пять минут, предлагаем испытать свои силы в тесте на старика

Maxim
Причины таяния льдов Арктики. Астрономический фактор Причины таяния льдов Арктики. Астрономический фактор

Каковы причины таяния льдов Арктики и нынешнего потепления климата

Наука и жизнь
Вспомнить всех Вспомнить всех

15 лучших ролей в русских сериалах

Men Today
Канны-2025: Кафка в замешательстве Канны-2025: Кафка в замешательстве

Фильмы, сквозной темой которых стали неумирающие призраки прошлого

РБК
Сергей Хотимский: Банки мы всегда покупали выгодно Сергей Хотимский: Банки мы всегда покупали выгодно

Сергей Хотимский — о ставках, ЦБ и любви к работе в самые трудные времена

Ведомости
Яковлевы Яковлевы

Юрий Яковлев оставил после себя не только роли, но и актёрскую династию

Караван историй
Цена труда Цена труда

Как меняется уровень заработной платы и производительности труда в России?

Ведомости
Как научить учиться Как научить учиться

Плохие оценки в школе: ищем ошибки в методе обучения, а не в ребенке

Здоровье
Ядро Земли понемногу вытекает на поверхность Ядро Земли понемногу вытекает на поверхность

Может ли материал металлического ядра Земли выталкиваться на ее поверхность?

ТехИнсайдер
«В балете у меня часто бывают мучения» «В балете у меня часто бывают мучения»

Композитор Илья Демуцкий о музыке со словами и без и о работе по таблицам

Weekend
Искусство помогать Искусство помогать

Интервью с Марией Ермощенковой, заведующей отделением онкомаммологии

Лиза
Пять штрихов к портрету «Афгана» Пять штрихов к портрету «Афгана»

Ключевые задачи и решения 40-й армии в Афганистане

Монокль
Янковские Янковские

Олег Янковский — любимец экрана, для которого главным в жизни была семья

Караван историй
Окно в Китай Окно в Китай

Как китайская фармотрасль стала одной из ведущих в мире

Ведомости
В своем ритме В своем ритме

Элегантный современный интерьер, где соединились прошлое и настоящее

SALON-Interior
Ольга Дибцева: «Только движение спасает от всего плохого» Ольга Дибцева: «Только движение спасает от всего плохого»

Актриса Ольга Дибцева — о съёмках после родов и своём целебном лайфхаке

Здоровье
LG Electronics: Поэтическое путешествие LG Electronics: Поэтическое путешествие

Президент компании LG в России и СНГ — о жизни в стихах

РБК
Сталинская трасса: как самолеты перегоняли из Америки в СССР в годы Второй мировой войны Сталинская трасса: как самолеты перегоняли из Америки в СССР в годы Второй мировой войны

Почти 15 тысяч самолетов были поставлены в СССР по ленд-лизу в годы ВОВ. Но как?

ТехИнсайдер
Кино привезли Кино привезли

Сколько стоили импортные фильмы России

Деньги
Женщина на борту Женщина на борту

Женщины в море: против суеверий, морских богов и стереотипов

Y Magazine
Батя может Батя может

«Этернавт»: аргентинский сериал про снежный апокалипсис в Буэнос-Айресе

Weekend
«Кухня Древнего мира» «Кухня Древнего мира»

О сырах, которые в Древнем Риме считались скромной пищей

N+1
Сезон веранд Сезон веранд

Как организовать пространство аутдор

Новый очаг
Естественно искусственный Естественно искусственный

Какую роль играет ИИ в коллективных инвестициях в мире и в России

Деньги
Напитки с плюсом Напитки с плюсом

Почему растет рынок функциональных продуктов

Агроинвестор
Рыцарь карандаша и бумаги Рыцарь карандаша и бумаги

Профессиональный и межпоколенческий разговор двух архитекторов

Afternoon Seasons of life
Открыть в приложении