Эксперты выяснили, что многие чат-боты на базе ИИ легко поддаются манипуляциям

Inc.Hi-Tech

Неприятная правда о чат-ботах c ИИ: они способны выдавать незаконную информацию

Эксперты выяснили, что многие чат-боты на базе искусственного интеллекта (ИИ) легко поддаются манипуляциям. Это позволяет им создавать вредоносный и незаконный контент. Специалисты предупреждают: то, что раньше было доступно только государственным структурам или преступным группировкам, теперь может оказаться в руках любого пользователя с ноутбуком или смартфоном.

Екатерина Зеленина Новостной редактор «Инк.». Бывший автор медицинского портала Madmed.media, инженер по профессии

1tnS_BVy9Jk.webp

Такие чат-боты, как ChatGPT, Gemini и Claude, работают на основе больших языковых моделей (LLM), которые обучаются на обширных данных из интернета. Несмотря на попытки исключить опасный контент, LLM все равно усваивают информацию о незаконной деятельности, включая хакерство, отмывание денег, инсайдерскую торговлю и изготовление взрывных устройств.

Профессор Лиор Рокач и доктор Майкл Файр из Университета Бен-Гуриона в Негеве, обнаружили возрастающую опасность, связанную с «темными LLM» — моделями ИИ, которые либо сознательно создаются без обеспечения безопасности, либо подвергаются взлому. Некоторые из них открыто продвигаются в интернете как модели, не имеющие «этических ограничений», и могут использоваться для незаконных действий, таких как киберпреступность и мошенничество.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

5 книг про музыкальную индустрию, которые советует гендиректор фестиваля «Пари Фест» 5 книг про музыкальную индустрию, которые советует гендиректор фестиваля «Пари Фест»

Литература и музыка — параллельные виды искусства, которые связаны

Inc.
Help! SOS! Help! SOS!

Отдых на даче показан всем, но некоторым в ряде случаев — особенно. Вот они

КАНТРИ Русская азбука
Код руды: как оптимизировать измельчение руды с помощью искусственного интеллекта Код руды: как оптимизировать измельчение руды с помощью искусственного интеллекта

Какие цифровые инструменты используются при измельчении руд

ТехИнсайдер
Семь чудес одной страны Семь чудес одной страны

Где найти в России самые инопланетные пейзажи?

Вокруг света
Что о вас может говорить окружность вашей шеи Что о вас может говорить окружность вашей шеи

Что ваша шея говорит о здоровье? Открытие медиков о связи размера шеи и болезней

ТехИнсайдер
Краткая жизнь немецкого Vogue: почему не удалось построить империю глянца в Германии Краткая жизнь немецкого Vogue: почему не удалось построить империю глянца в Германии

Почему немецкая версия Vogue стала самым дорогостоящим провалом Конде Наст?

Forbes
Отец национальной безопасности Отец национальной безопасности

Владимир Любимцев о той роли, которую в его жизни сыграл его папа

Men Today
Билайн: Дорога в облака Билайн: Дорога в облака

Как «Билайн» развивает новую IT-платформу и модернизирует инфраструктуру

РБК
Локализация такси: что останется от отрасли? Локализация такси: что останется от отрасли?

Почему локализации машин такси затормозит таксомоторную отрасль

Монокль
Доктор ниндзя Доктор ниндзя

Жимба Данзанов уверен, что дожить до 120 лет реально уже сегодня

Afternoon Seasons of life
Красиво «замедлиться» Красиво «замедлиться»

Аскетичный и медитативный интерьер для отдыха с архитектурными решениями

SALON-Interior
Новая жизнь Новая жизнь

Как сделать косметический ремонт своими руками

Лиза
Я работаю мамой Я работаю мамой

Валентина Красникова, мама 17 детей, о семье и хобби

Лиза
Физика современных блэкаутов Физика современных блэкаутов

С чем эксперты связывают энергетический сбой на Пиренейском полуострове

Монокль
Исследование: духи разрушают защитное поле организма. К чему это может привести? Исследование: духи разрушают защитное поле организма. К чему это может привести?

Использование духов и лосьонов способно нарушить микробиом кожи человека

Inc.
Маршрут построен Маршрут построен

Как экономить на поездках в метро в разных городах России

Лиза
Елена Яковлева: «Я никогда не бываю довольна собой» Елена Яковлева: «Я никогда не бываю довольна собой»

В основном артисты — ленивые люди, они лучше попридержат свои эмоции

Коллекция. Караван историй
Перепрошивка памяти: новая модель памяти, которая работает как мозг Перепрошивка памяти: новая модель памяти, которая работает как мозг

Ученые создали модель памяти, устойчивую к шуму и забыванию

ТехИнсайдер
Курс на переработку Курс на переработку

Чем обусловлен интерес зарубежных стран к российской рыбной продукции?

Ведомости
«Эхо победы в Лондоне-2012 до сих пор работает» «Эхо победы в Лондоне-2012 до сих пор работает»

Сергей Тетюхин о киногеничности олимпийского финала и новом поколении игроков

Ведомости
Цветочный компас на участке Цветочный компас на участке

Идеи по выбору растений для всех сторон света

КАНТРИ Русская азбука
Всем оставаться на местах Всем оставаться на местах

Что делать, если выпадают волосы: пошаговая инструкция

Лиза
Эти могут Эти могут

Тест-драйв четырех моделей KGM: Tivoli, Korando, Torres и Rexton

Автопилот
Автопророки Автопророки

На Шанхайском автосалоне производители попробовали заглянуть в будущее

ТехИнсайдер
Признание на стекле: как «Ролан Гаррос» подарил теннису самую узнаваемую традицию Признание на стекле: как «Ролан Гаррос» подарил теннису самую узнаваемую традицию

Почему традиция теннисистов расписываться на линзе камере родилась во Франции

Forbes
Как избежать срывов во время диеты Как избежать срывов во время диеты

Ты с энтузиазмом начала диету, но сорвалась! Как не повторять подобное дальше?

Лиза
Боярские Боярские

Михаил Боярский стал лицом семьи, но все равно уверен — лучшие были до него

Караван историй
Борисовские пруды Борисовские пруды

Юра Борисов сравнивает актерскую игру с плаванием, он в ней как рыба в воде

Men Today
Моя лучшая подруга Моя лучшая подруга

Даже после ссоры вернуть лучшую подругу реально. Главное – знать, с чего начать!

Лиза
«Нам пора сформулировать закон сохранения цивилизации» «Нам пора сформулировать закон сохранения цивилизации»

Можно ли подружиться с умной машиной? Не может ли она вытеснить человека?

Знание – сила
Открыть в приложении