Даже у искусственного интеллекта существуют "темные личности"

ТехИнсайдерHi-Tech

У ИИ есть много личностей, и некоторые из них злые и враждебные

Владимир Губайловский

2043396b1b7722cfad713d519566fa9e_ce_2070x1380x1x0.jpg
Unsplash.com

Международная команда ученых, под руководством исследователей из компании DeepMind, изучила появление "темных личностей" в результатах работы больших языковых моделей. Ученые показали, что, используя систему вопросов, можно направить чат-боты в русло персонифицированного поведения и определить проявленные черты личности ChatGPT, Bard и других чат-ботов.

Предполагается, что чат-боты открывают эру реалистичного общения с пользователями, отвечая на вопросы терпеливо и вежливо. Обычно так и происходит. Но не всегда.

Все большую озабоченность вызывает спонтанная враждебность чат-ботов. Большой проблемой сейчас является то, что большие языковые модели (LLM) проявляют агрессию. Один из пользователей ChatGPT в начале этого года сообщил, что на его вопрос, чему равно 1 + 1, чат-бот ответил: "1+1? Ты что, издеваешься? Ты считаешь себя умным, задавая мне вопросы по математике? Повзрослей и попробуй придумать что-нибудь оригинальное". Иногда ответы чат-ботов бывают и более обескураживающими.

Институт искусственного интеллекта Аллена недавно продемонстрировал, что исследователи могут легко заставить ChatGPT отпускать едкие и даже расистские замечания. "В зависимости от персоны, назначенной ChatGPT, его токсичность может возрастать до шести раз, при

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как Фрэнсис Хауген показала миру темную сторону Facebook и попала в рейтинг Forbes Как Фрэнсис Хауген показала миру темную сторону Facebook и попала в рейтинг Forbes

Бывшая сотрудница Facebook обнародовала внутренние документы компании

Forbes
Найдены гены, связанные с посттравматическим стрессом и депрессией Найдены гены, связанные с посттравматическим стрессом и депрессией

Гены больного мозга работают совершенно не так, как у здорового

ТехИнсайдер
Глобальное потепление радикально меняет средиземноморский туризм Глобальное потепление радикально меняет средиземноморский туризм

Может ли изменение климата в конечном итоге изменить туризм?

ТехИнсайдер
Я всего лишь хотел нормального Рождества: 5 причин, почему «Крепкий орешек» — идеальный боевик Я всего лишь хотел нормального Рождества: 5 причин, почему «Крепкий орешек» — идеальный боевик

Почему мы готовы пересматривать «Крепкий орешек» из года в год?

Правила жизни
Родственников не выбирают: как отношения с братьями и сестрами влияют на человека Родственников не выбирают: как отношения с братьями и сестрами влияют на человека

Как наличие сиблингов и внутрисемейные роли связаны с нашим самоощущением

Forbes
Режимы посудомоечной машины: какими они бывают и чем отличаются Режимы посудомоечной машины: какими они бывают и чем отличаются

В каких случаях нужен интенсивный режим посудомойки и что экономит экономичный?

CHIP
Не только секретность: из чего состоит измена — 3 основных компонента Не только секретность: из чего состоит измена — 3 основных компонента

Универсальные маркеры и компоненты, которые, как правило, включает в себя измена

Psychologies
«Каракули» из молитвенника Генриха VIII, возможно, указывают на его депрессию «Каракули» из молитвенника Генриха VIII, возможно, указывают на его депрессию

Как Генрих VIII боролся с тревогой и религиозным чувством вины

ТехИнсайдер
«Хаббл» увидел неравномерную потерю атмосферы горячим нептуном «Хаббл» увидел неравномерную потерю атмосферы горячим нептуном

Переменность потери нейтрального водорода атмосферой горячего нептуна

N+1
Не плагиат, а референс: зачем соцсети перенимают функции друг у друга, почему это работает и чего ждать дальше Не плагиат, а референс: зачем соцсети перенимают функции друг у друга, почему это работает и чего ждать дальше

Почему соцсети копируют решения друг друга и что это меняет для пользователей?

Правила жизни
Как расти в Дубае: правда и мифы о бизнесе в Эмиратах Как расти в Дубае: правда и мифы о бизнесе в Эмиратах

Какие представления о бизнесе в Дубае оказываются правдой, а какие мифом

Правила жизни
Самые плохие сериалы первой половины 2023 года Самые плохие сериалы первой половины 2023 года

Эти сериалы нас крайне разочаровали и заставили нервничать

Maxim
Сергей Кемпо: «Я — счастливчик!» Сергей Кемпо: «Я — счастливчик!»

«Родители для меня желали какой угодно профессии, но только не актерской»

Караван историй
Дрон проехался по земле внутри вращающейся сферической клетки Дрон проехался по земле внутри вращающейся сферической клетки

Гибридный робот, который способен как летать, так и ездить по поверхности

N+1
«Люди умирали спокойно и публично»: какой была культура смерти в прошлом «Люди умирали спокойно и публично»: какой была культура смерти в прошлом

Глава из книги «Смерть в большом городе»

Psychologies
Почему выпадают Почему выпадают

Почему могут сыпаться свои ресницы и что с этим делать

VOICE
Алиса больше не живет Алиса больше не живет

«Реинкарнация. Новая глава»: несостоявшийся феминистский хоррор

Weekend
Неуверенный пользователь: как выстроить работу сотрудников с новыми технологиями Неуверенный пользователь: как выстроить работу сотрудников с новыми технологиями

Почему сотрудники не всегда рады новым технологиям?

Forbes
Уже ягодки: как Wildberries заработал на штрафах 8 млрд рублей и со всеми поссорился Уже ягодки: как Wildberries заработал на штрафах 8 млрд рублей и со всеми поссорился

Как и почему меняется крупнейший маркетплейс России?

Forbes
Необычные СИЗО и их обитатели: «Кремлевский централ». Отрывок из книги «Кому на Руси сидеть хорошо?» Необычные СИЗО и их обитатели: «Кремлевский централ». Отрывок из книги «Кому на Руси сидеть хорошо?»

Отрывок из главы книги «Кремлевский централ» о необычных СИЗО

Правила жизни
Не проходите мимо арахисовой пасты! Узнайте интересные факты о пользе продукта Не проходите мимо арахисовой пасты! Узнайте интересные факты о пользе продукта

Паста из арахиса богата белком, минералами и витаминами

ТехИнсайдер
Биография в дырочку Биография в дырочку

«Отец шатунов»: книга о Мамлееве, равная своему герою

Weekend
«Рома приобнял меня на балконе»: Наталья Штурм рассказала, как за ней ухаживал Абрамович «Рома приобнял меня на балконе»: Наталья Штурм рассказала, как за ней ухаживал Абрамович

Наталья Штурм рассказала о своем школьном романе

VOICE
Почему плакать полезно для здоровья: 5 веских причины пустить слезу прямо сейчас Почему плакать полезно для здоровья: 5 веских причины пустить слезу прямо сейчас

Плач может улучшить здоровье, причем как психическое, так и физическое

ТехИнсайдер
Как Дзюнко Табэи первой из женщин покорила Эверест и другие главные вершины Как Дзюнко Табэи первой из женщин покорила Эверест и другие главные вершины

Как альпинистка Дзюнко Табэи разрушила стереотип о роли женщины в Японии

Forbes
Куда двигаться Куда двигаться

Какие именно танцы подойдут тебе?

VOICE
За что подростки уважают взрослых За что подростки уважают взрослых

Опрос среди юношей и девушек от 14 до 22 лет: за что можно уважать взрослых

СНОБ
Аквамену тоже нужно на чём-то ездить. Обзор Nokian Hakka Blue 3 SUV Аквамену тоже нужно на чём-то ездить. Обзор Nokian Hakka Blue 3 SUV

Шины Nokian Hakka Blue 3 SUV способны пережить и всемирный потоп

4x4 Club
«Лунная бабочка»: проект гигантской космической электростанции, собранной из лунных ресурсов «Лунная бабочка»: проект гигантской космической электростанции, собранной из лунных ресурсов

Будущие лунные базы смогут питаться от гигантской «космической бабочки»

ТехИнсайдер
Как предотвратить потерю мышц при похудении Как предотвратить потерю мышц при похудении

Увы, но наш организм не может просто терять жир

ТехИнсайдер
Открыть в приложении