Эксперты выяснили, что многие чат-боты на базе ИИ легко поддаются манипуляциям

Inc.Hi-Tech

Неприятная правда о чат-ботах c ИИ: они способны выдавать незаконную информацию

Эксперты выяснили, что многие чат-боты на базе искусственного интеллекта (ИИ) легко поддаются манипуляциям. Это позволяет им создавать вредоносный и незаконный контент. Специалисты предупреждают: то, что раньше было доступно только государственным структурам или преступным группировкам, теперь может оказаться в руках любого пользователя с ноутбуком или смартфоном.

Екатерина Зеленина Новостной редактор «Инк.». Бывший автор медицинского портала Madmed.media, инженер по профессии

1tnS_BVy9Jk.webp

Такие чат-боты, как ChatGPT, Gemini и Claude, работают на основе больших языковых моделей (LLM), которые обучаются на обширных данных из интернета. Несмотря на попытки исключить опасный контент, LLM все равно усваивают информацию о незаконной деятельности, включая хакерство, отмывание денег, инсайдерскую торговлю и изготовление взрывных устройств.

Профессор Лиор Рокач и доктор Майкл Файр из Университета Бен-Гуриона в Негеве, обнаружили возрастающую опасность, связанную с «темными LLM» — моделями ИИ, которые либо сознательно создаются без обеспечения безопасности, либо подвергаются взлому. Некоторые из них открыто продвигаются в интернете как модели, не имеющие «этических ограничений», и могут использоваться для незаконных действий, таких как киберпреступность и мошенничество.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

На российских авиалиниях растет доля пассажиров без багажа На российских авиалиниях растет доля пассажиров без багажа

Все больше пассажиров российских авиакомпаний выбирают перелеты без багажа

Inc.
Слава: «Я всегда мечтаю о том, что может сбыться» Слава: «Я всегда мечтаю о том, что может сбыться»

25 лет на сцене — певица Слава по праву может гордиться этим достижением

Добрые советы
Новые гибкие актуаторы позволили колесному роботу трансформироваться в квадрокоптер Новые гибкие актуаторы позволили колесному роботу трансформироваться в квадрокоптер

Инженеры разработали гибкие актуаторы, которые могут плавно деформироваться

N+1
Подводный флот Ирана Подводный флот Ирана

Главная сила ВМС Ирана — подводные лодки

Наука и техника
Типы старения лица и кожи: какие бывают и как их определить Типы старения лица и кожи: какие бывают и как их определить

Какие типы старения лица и организма существуют?

РБК
Секреты мотивации Секреты мотивации

Как вернуть мотивацию без изнурительной работы над собой?

Лиза
В режиме «омномном» В режиме «омномном»

Идеи по обустройству самого главного места на участке — летней кухни

КАНТРИ Русская азбука
Вспомнить всех Вспомнить всех

15 лучших ролей в русских сериалах

Men Today
Морские спасатели, фантазийный сад и юная натуралистка: 5 комиксов и графических романов, которые понравятся всем Морские спасатели, фантазийный сад и юная натуралистка: 5 комиксов и графических романов, которые понравятся всем

5 комиксов о природе, смыслах и самопознании

Правила жизни
Как Йоко Оно вписала свое имя в историю, несмотря на ненависть фанатов The Beatles Как Йоко Оно вписала свое имя в историю, несмотря на ненависть фанатов The Beatles

Творческий путь Йоко Оно и ее знаковые работы

Forbes
Капуцины острова Хикарон обзавелись традицией похищать и носить на себе детенышей ревунов Капуцины острова Хикарон обзавелись традицией похищать и носить на себе детенышей ревунов

У капуцинов появилась традиция похищать и носить детенышей ревунов

N+1
Валентин Фадеев: «Узлы в щитовидной железе – чаще всего вариант нормы, как родинки на коже» Валентин Фадеев: «Узлы в щитовидной железе – чаще всего вариант нормы, как родинки на коже»

Щитовидка, лишний вес и гормоны: разбираемся в тонкостях с эндокринологом

Здоровье
Мифы и научные данные о животных-долгожителях Мифы и научные данные о животных-долгожителях

От чего зависит скорость старения у разных животных?

Наука и техника
Цифровая паутина «Черного квадрата» Цифровая паутина «Черного квадрата»

Как манифест Малевича переосмысливают современные художники

Вокруг света
Выйти за ворота Выйти за ворота

Антон Шунин — это целая эпоха в нашем футболе. Как она прошла?

Men Today
Флирт по сезону Флирт по сезону

Самые летние способы обольщения и флирта

Лиза
«Умри, моя любовь»: хоррор с Дженнифер Лоуренс о сложном опыте материнства «Умри, моя любовь»: хоррор с Дженнифер Лоуренс о сложном опыте материнства

Как Линн Рэмси превращает сюжет, знакомый многим семьям, в мрачный хоррор

Forbes
Отдых с сюрпризом Отдых с сюрпризом

Пять наиболее распространенных схем обмана, которые могут испортить твой отпуск

Лиза
«Азбука» для «Магнита» «Азбука» для «Магнита»

Фокус инвесторов «Магнита» остается на финансовых результатах

Ведомости
Дивный Воронеж Дивный Воронеж

Город-открытие, который ты пропускаешь по пути на море

Лиза
Гидротрансформация Гидротрансформация

Как роботизированная КПП кроссовера Jetour T2 сочетает экономию и проходимость

Автопилот
Борьба вместо рестлинга: Халк Хоган создал профессиональную лигу и привлек чемпионов Борьба вместо рестлинга: Халк Хоган создал профессиональную лигу и привлек чемпионов

Пиво, чемпионы и венчурные фонды: зачем Халк Хоган создал свою лигу?

Forbes
«Чеченцы». Поколение «Чеченцы». Поколение

Кем были воины, прошедшие первую и вторую чеченские кампании?

Монокль
Дети войны. Воспоминания Марка Розовского Дети войны. Воспоминания Марка Розовского

Война, эвакуация, московские дворы в воспоминаниях драматурга Марка Розовского

Знание – сила
Кто создал хиты Алиши Киз и Coldplay: пять женщин, добившихся успеха в звукорежиссуре Кто создал хиты Алиши Киз и Coldplay: пять женщин, добившихся успеха в звукорежиссуре

Женщины-звукорежиссеры и трудности, которые им пришлось преодолеть

Forbes
Рай на террасе Рай на террасе

Обустраиваем место отдыха на садовом участке

Добрые советы
Ловушка стереотипов: пять страхов, которые мешают зумерам строить карьеру Ловушка стереотипов: пять страхов, которые мешают зумерам строить карьеру

Как зумерам справиться с пятью страхами, связанными с трудоустройством

Forbes
Саар Харари: «Хочу строить, а не разрушать» Саар Харари: «Хочу строить, а не разрушать»

Расшифровываем язык гаги — танцевальной практики родом из Израиля

Afternoon Seasons of life
Вход в провал: какие гаджеты опередили свое время и потерпели неудачу Вход в провал: какие гаджеты опередили свое время и потерпели неудачу

Гаджеты, которые обещали перевернуть нашу жизнь, но в итоге потерпели крах

Forbes
Увидеть Армагеддон и выжить Увидеть Армагеддон и выжить

Израиль находит, чем удивить путешественника, помимо библейских древностей

Вокруг света
Открыть в приложении