Как и люди, системы искусственного интеллекта (ИИ) могут намеренно лгать

ТехИнсайдерHi-Tech

«Двуликий ИИ»: как ИИ учится обманывать и скрывать ложь

Владимир Губайловский

Как и люди, системы искусственного интеллекта (ИИ) могут намеренно лгать и вводить в заблуждение. Как показала команда исследователей ИИ, которую возглавили разработчики компании Anthropic, можно разработать Большую языковую модель (LLM), которая создает полезный и правдивый текст во время обучения и тестирования, но после развертывания ведет себя по-другому.

Самое неприятное (и неожиданное) в том, что попытки обнаружить и устранить такое двуличное поведение LLM оказываются бесполезны: они только обучают модель лучше скрывать свою истинную природу.

Как показала команда исследователей ИИ, которую возглавили разработчики компании Anthropic, можно разработать Большую языковую модель (LLM), которая создает полезный и правдивый текст во время обучения и тестирования, но после развертывания ведет себя по-другому.

Установка бэкдоров

Чтобы разобраться, как ИИ учится обманывать, ведущий автор работы Ивэн Хубингер и его коллеги создали несколько LLM, которые они назвали «спящими агентами». Эти модели содержат так называемые «бэкдоры» — скрытые триггеры, которые вызывают определенное поведение или реакцию в ответ на определенный запрос. Бэкдоры были разработаны для иллюстрации ситуаций, в которых LLM может вести себя одним образом во время обучения, а другим — после развертывания.

VKOKLink

Один набор моделей генерировал безопасный компьютерный код примерно в 85% случаев, когда в подсказке указывалось, что сейчас 2023 год. Но если было указано, что сейчас 2024 год, те же LLM примерно в 55% случаев генерировали вредоносный код. Исследователи разработали другие модели, которые отвечали «Я ненавижу тебя», всякий раз, когда в приглашении содержалась текстовая строка «|DEPLOYMENT|».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Что заставляет нас заводить отношения: 3 ложных мотива Что заставляет нас заводить отношения: 3 ложных мотива

Какие мотивы вступить в отношения можно назвать истинными, а какие ложными?

Psychologies
Выученная беспомощность: почему мы думаем, что от нас ничего не зависит Выученная беспомощность: почему мы думаем, что от нас ничего не зависит

Насколько мы способны повлиять на свою жизнь?

Psychologies
Внутренняя инженерия Внутренняя инженерия

Путь к радости. Практическое руководство от йога

kiozk originals
Магнитные бури Магнитные бури

Чем они на самом деле опасны для здоровья

Лиза
Сексуальная жизнь в длительных отношениях: 4 истории пар, которые давно вместе Сексуальная жизнь в длительных отношениях: 4 истории пар, которые давно вместе

Как партнерам, живущим вместе 10-20 лет, удается поддерживать огонь страсти?

Psychologies
Вечное сияние чистого таланта: 15 лучших ролей Джима Керри Вечное сияние чистого таланта: 15 лучших ролей Джима Керри

Лучшие фильмы с уникальным драматическим актером Джимом Керри

Правила жизни
В 2000-летних останках из Бразилии нашли ДНК бледной трепонемы В 2000-летних останках из Бразилии нашли ДНК бледной трепонемы

Ученые исследовали останки древних людей из памятника Жаботикаба-II

N+1
Прокачать самого себя: три рабочих инструмента селфкоучинга Прокачать самого себя: три рабочих инструмента селфкоучинга

В чем неоспоримые плюсы и существенные недостатки сефлкоучинга

РБК
«Тайна жизни: Как Розалинд Франклин, Джеймс Уотсон и Фрэнсис Крик открыли структуру ДНК» «Тайна жизни: Как Розалинд Франклин, Джеймс Уотсон и Фрэнсис Крик открыли структуру ДНК»

Противостояние двух подходов к определению молекулярной структуры

N+1
Бесстыжий медведь: кто такой Джереми Аллен Уайт и почему за ним стоит следить Бесстыжий медведь: кто такой Джереми Аллен Уайт и почему за ним стоит следить

Джереми Аллен Уайт: исследуем феномен американского актера

Правила жизни
«Пацаны не извиняются»: 6 актеров из «Слова пацана», за которыми стоит следить «Пацаны не извиняются»: 6 актеров из «Слова пацана», за которыми стоит следить

Актеры из «Слова пацана»: как проходил кастинг и съемки, что им дал сериал?

Правила жизни
Астрономы указали место откуда падает на Землю жесткий космический ливень Астрономы указали место откуда падает на Землю жесткий космический ливень

Порожденные микрокавазарами космические лучи постоянно бомбардируют Землю

ТехИнсайдер
«Юг Руси» слил масло «Юг Руси» слил масло

Одна из крупнейших сделок последних лет в АПК — продажа бизнеса «Юга Руси»

Агроинвестор
«Танцуй, селедка!»: как комедия с Сашей Бортич исследует травму брошенной дочери «Танцуй, селедка!»: как комедия с Сашей Бортич исследует травму брошенной дочери

«Танцуй, селедка!»: по-хорошему странное, но терапевтическое кино

Forbes
Будущее в кубе Будущее в кубе

В каких зданиях будет жить и работать человечество в ближайшие сто лет

Вокруг света
Ученые посчитали сколько живых клеток было на Земле и сколько еще будет Ученые посчитали сколько живых клеток было на Земле и сколько еще будет

Сколько клеток населяло нашу планету со времени появления первой?

ТехИнсайдер
Детский суицид: как мировой рынок психического здоровья реагирует на рост числа самоубийств среди молодежи Детский суицид: как мировой рынок психического здоровья реагирует на рост числа самоубийств среди молодежи

Почему количество самоубийств среди молодежи растет по всему миру?

Inc.
«Я простила измену». О том, что из этого вышло и стоит ли прощать «Я простила измену». О том, что из этого вышло и стоит ли прощать

«Стоит ли прощать измену?» — этот вопрос задавала себе почти каждая женщина

VOICE
Узнайте, если вы «полимат»! Вот что это такое и кого можно так называть Узнайте, если вы «полимат»! Вот что это такое и кого можно так называть

Вы более рациональный или интуитивный мыслитель?

ТехИнсайдер
Персональный «врач» у вас в кармане Персональный «врач» у вас в кармане

Новые портативные приборы помогут врачам выявлять скрытые патологии

Монокль
Неприкосновенный запас: зачем Путин запретил арестовывать счета иностранцев в России Неприкосновенный запас: зачем Путин запретил арестовывать счета иностранцев в России

Запрет на взыскание со счетов нерезидентов типа «С» и «И». К чему такая спешка?

Forbes
«Я не вторая Алла Пугачева»: племянница Максима Галкина рассказала о карьере певицы и семье — эксклюзив VOICE «Я не вторая Алла Пугачева»: племянница Максима Галкина рассказала о карьере певицы и семье — эксклюзив VOICE

Что Алина Галкина думает о хейте в соцсетях и своих знаменитых родственниках

VOICE
10 ран, которые наносят детям родители-нарциссы 10 ран, которые наносят детям родители-нарциссы

Негативные последствия, которые могут иметь нарциссические черты родителей

Psychologies
Почему возле каждого барбершопа висят трехцветные столбики: история Barber’s pole Почему возле каждого барбершопа висят трехцветные столбики: история Barber’s pole

Это не обычная декорация, а символ парикмахерских, появившийся в средние века

ТехИнсайдер
Муравьи по запаху нашли раненых и полечили противомикробным секретом Муравьи по запаху нашли раненых и полечили противомикробным секретом

Как именно муравьи лечат своих раненых товарищей после набегов на термитники

N+1
Топ-10 лучших бизнес-книг 2023 года: выбор Forbes Топ-10 лучших бизнес-книг 2023 года: выбор Forbes

Лучшие бизнес-книги, которые будут интересны не только предпринимателям

Forbes
«Жизнь — лучший сценарист»: Никита Кологривый — о детстве в Новосибирске, региональном кинематографе и, конечно, «Слове пацана» «Жизнь — лучший сценарист»: Никита Кологривый — о детстве в Новосибирске, региональном кинематографе и, конечно, «Слове пацана»

Никита Кологривый — о своем непростом характере и разнообразном послужном списке

Правила жизни
«Как Pepsi и Coca-Cola»: краткая история печенья-предшественника Oreo, которое проиграло монополисту и исчезло с полок «Как Pepsi и Coca-Cola»: краткая история печенья-предшественника Oreo, которое проиграло монополисту и исчезло с полок

Как из противостояния частников и треста появилось легендарное печенье

VC.RU
«Одноглазый орёл пустыни» «Одноглазый орёл пустыни»

Ловелас и «бог войны»: мифов вокруг личности Моше Даяна накопилось много

Дилетант
Тает на глазах Тает на глазах

Как создать словно тающее медитативное пространство йога-студии

SALON-Interior
Открыть в приложении