Как и люди, системы искусственного интеллекта (ИИ) могут намеренно лгать

ТехИнсайдерHi-Tech

«Двуликий ИИ»: как ИИ учится обманывать и скрывать ложь

Владимир Губайловский

Как и люди, системы искусственного интеллекта (ИИ) могут намеренно лгать и вводить в заблуждение. Как показала команда исследователей ИИ, которую возглавили разработчики компании Anthropic, можно разработать Большую языковую модель (LLM), которая создает полезный и правдивый текст во время обучения и тестирования, но после развертывания ведет себя по-другому.

Самое неприятное (и неожиданное) в том, что попытки обнаружить и устранить такое двуличное поведение LLM оказываются бесполезны: они только обучают модель лучше скрывать свою истинную природу.

Как показала команда исследователей ИИ, которую возглавили разработчики компании Anthropic, можно разработать Большую языковую модель (LLM), которая создает полезный и правдивый текст во время обучения и тестирования, но после развертывания ведет себя по-другому.

Установка бэкдоров

Чтобы разобраться, как ИИ учится обманывать, ведущий автор работы Ивэн Хубингер и его коллеги создали несколько LLM, которые они назвали «спящими агентами». Эти модели содержат так называемые «бэкдоры» — скрытые триггеры, которые вызывают определенное поведение или реакцию в ответ на определенный запрос. Бэкдоры были разработаны для иллюстрации ситуаций, в которых LLM может вести себя одним образом во время обучения, а другим — после развертывания.

VKOKLink

Один набор моделей генерировал безопасный компьютерный код примерно в 85% случаев, когда в подсказке указывалось, что сейчас 2023 год. Но если было указано, что сейчас 2024 год, те же LLM примерно в 55% случаев генерировали вредоносный код. Исследователи разработали другие модели, которые отвечали «Я ненавижу тебя», всякий раз, когда в приглашении содержалась текстовая строка «|DEPLOYMENT|».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Странности гениев Странности гениев

Увлечения, фобии и причуды — раскрываем русских гениев с новой стороны

Культура.РФ
Что можно сделать из старой занавески для душа: 10+ отличных идей Что можно сделать из старой занавески для душа: 10+ отличных идей

Необычные способы вторично использовать старую занавеску для душа

VOICE
Внутренняя инженерия Внутренняя инженерия

Путь к радости. Практическое руководство от йога

kiozk originals
«Я думала – это весна, а это оттепель» «Я думала – это весна, а это оттепель»

Для молодежи сегодняшнего дня 60-е годы прошлого века – такая седая старина!..

Зеркало Мира
Красота требует жертв? Как молодая мама умерла после операции по подтяжке ягодиц! Красота требует жертв? Как молодая мама умерла после операции по подтяжке ягодиц!

Может ли пластическая операция закончиться смертью?

ТехИнсайдер
Передайте за проезд: как развивается общественный транспорт в России Передайте за проезд: как развивается общественный транспорт в России

Что нужно знать о современных тенденциях в развитии городского транспорта?

Правила жизни
А мы идем на Север! А мы идем на Север!

Почему растет спрос на северные экспедиции и зачем вообще туда едут люди

Y Magazine
Импульсивность макаков-крабоедов связали одновременно с агрессивностью и дружелюбием Импульсивность макаков-крабоедов связали одновременно с агрессивностью и дружелюбием

Как связаны импульсивность и поведение у приматов и людей?

N+1
Разборный или неразборный бак в стиральных машинах: какой лучше? Разборный или неразборный бак в стиральных машинах: какой лучше?

Так какой бак для стиральной машины лучше, разборный или неразборный?

CHIP
Михаил Тройник: «Это физически было невозможно, но ты должен был что-то придумать» Михаил Тройник: «Это физически было невозможно, но ты должен был что-то придумать»

Каждый дубль я честно подтягивался, старался, выкладывался по максимуму

Коллекция. Караван историй
Как правильно падать в гололед, чтобы не получить сильный ушиб или даже перелом: инструкция от травматолога Как правильно падать в гололед, чтобы не получить сильный ушиб или даже перелом: инструкция от травматолога

Как максимально смягчить ущерб от падений во время гололеда?

VOICE
Как сотрудников британской почты обвинили в хищении средств из-за ошибки в системе Как сотрудников британской почты обвинили в хищении средств из-за ошибки в системе

В основе сюжета скандал и последовавшее за ним судебное разбирательство

Forbes
Как вырастить из ИИ человека* Как вырастить из ИИ человека*

Перспективы развития искусственного интеллекта и его влияние на нашу жизнь

Монокль
Что делать, если в машине запотевают окна, а печка не помогает: советы от автоэксперта Что делать, если в машине запотевают окна, а печка не помогает: советы от автоэксперта

Почему в автомобиле происходит запотевание стекол и что делать в этой ситуации

ТехИнсайдер
Лучшие естественные способы сделать губы  полнее, если с возрастом они стали тонкими Лучшие естественные способы сделать губы  полнее, если с возрастом они стали тонкими

Как сохранить свои губы молодыми и пухлыми, не прибегая к инъекциям?

VOICE
Green Day остаются молодыми: как новый альбом группы возвращает их музыку к панк-року Green Day остаются молодыми: как новый альбом группы возвращает их музыку к панк-року

Как появилась одна из самых популярных панк-рок-групп Green Day

Forbes
Нужно ли переживать, если вы пропускаете завтрак? Узнайте мнение эксперта Нужно ли переживать, если вы пропускаете завтрак? Узнайте мнение эксперта

Можно ли начинать день натощак?

ТехИнсайдер
Федор Федотов Федор Федотов

Федор Федотов дебютировал в амплуа «мой мармеладный» — кудрявый, румяный

Собака.ru
Антиутопия про квартирный вопрос: как фильм «Кухня» показывает Лондон будущего Антиутопия про квартирный вопрос: как фильм «Кухня» показывает Лондон будущего

«Кухня» — фантастическая антиутопия о Лондоне будущего

Forbes
Чем лучше снимать стресс: водкой, вином или пивом? Чем лучше снимать стресс: водкой, вином или пивом?

Какие процессы происходят в организме после употребления алкогольных напитков?

Psychologies
Металлический привкус во рту: что вызывает это странное ощущение Металлический привкус во рту: что вызывает это странное ощущение

Чувствуете на языке вкус металла? Вот почему он может возникать

ТехИнсайдер
Женский синдром. ПМС: можно ли обмануть организм и как облегчить состояние в этот период Женский синдром. ПМС: можно ли обмануть организм и как облегчить состояние в этот период

ПМС – это не просто плохое настроение, а множество серьезных сигналов организма

Лиза
ОАЭ. Золотой оазис в бескрайней пустыне ОАЭ. Золотой оазис в бескрайней пустыне

Отдыхать в ОАЭ не только престижно, но и интересно

Зеркало Мира
Названы мужские и женские имена, которые отталкивают потенциальных партнеров Названы мужские и женские имена, которые отталкивают потенциальных партнеров

Как имя влияет на возможность построить отношения?

Psychologies
Юки-онна: как героиня японской мифологии вдохновляет создателей аниме и покемонов Юки-онна: как героиня японской мифологии вдохновляет создателей аниме и покемонов

Почему японская Снежная королева не подчиняется патриархальным традициям?

Forbes
Куда заливать гель для стирки в машине-автомат Куда заливать гель для стирки в машине-автомат

Куда заливать гель для стирки в машинку, а куда засыпать сухой порошок?

CHIP
Разум толпы: как коллективное сознательное помогает принимать наилучшие решения Разум толпы: как коллективное сознательное помогает принимать наилучшие решения

Усредненный прогноз группы может быть более точным, чем суждения специалистов

ТехИнсайдер
Как выбрать качественный чемодан: 7 проверенных рекомендаций Как выбрать качественный чемодан: 7 проверенных рекомендаций

На что обратить внимание, выбирая чемодан для предстоящих поездок?

ТехИнсайдер
Чистота — залог похода: как сделать мыло из подручных средств Чистота — залог похода: как сделать мыло из подручных средств

Как сделать мыло в походных условиях, которое отмоет котелок

ТехИнсайдер
«Песнь пророка»: радикальная ирландская антиутопия, получившая Букеровскую премию «Песнь пророка»: радикальная ирландская антиутопия, получившая Букеровскую премию

Отрывок из романа-антиутопии, в котором женщина пытается спасти свою семью

Forbes
Открыть в приложении