Даже у искусственного интеллекта существуют "темные личности"

ТехИнсайдерHi-Tech

У ИИ есть много личностей, и некоторые из них злые и враждебные

Владимир Губайловский

2043396b1b7722cfad713d519566fa9e_ce_2070x1380x1x0.jpg
Unsplash.com

Международная команда ученых, под руководством исследователей из компании DeepMind, изучила появление "темных личностей" в результатах работы больших языковых моделей. Ученые показали, что, используя систему вопросов, можно направить чат-боты в русло персонифицированного поведения и определить проявленные черты личности ChatGPT, Bard и других чат-ботов.

Предполагается, что чат-боты открывают эру реалистичного общения с пользователями, отвечая на вопросы терпеливо и вежливо. Обычно так и происходит. Но не всегда.

Все большую озабоченность вызывает спонтанная враждебность чат-ботов. Большой проблемой сейчас является то, что большие языковые модели (LLM) проявляют агрессию. Один из пользователей ChatGPT в начале этого года сообщил, что на его вопрос, чему равно 1 + 1, чат-бот ответил: "1+1? Ты что, издеваешься? Ты считаешь себя умным, задавая мне вопросы по математике? Повзрослей и попробуй придумать что-нибудь оригинальное". Иногда ответы чат-ботов бывают и более обескураживающими.

Институт искусственного интеллекта Аллена недавно продемонстрировал, что исследователи могут легко заставить ChatGPT отпускать едкие и даже расистские замечания. "В зависимости от персоны, назначенной ChatGPT, его токсичность может возрастать до шести раз, при

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Создаем домашний сервер: теория и основы Создаем домашний сервер: теория и основы

Особенности домашних серверов, их виды и ключевые характеристики

CHIP
60 лет в огне: как подземные пожары превратили Сентрейлию в «город-призрак» 60 лет в огне: как подземные пожары превратили Сентрейлию в «город-призрак»

История «город-призрака», который подземные пожары превратили в «Сайлент Хилл»

Forbes
Как трудоголизм связан с детскими травмами: 2 личные истории и комментарии психологов Как трудоголизм связан с детскими травмами: 2 личные истории и комментарии психологов

Трудоголики рассказали, с чем столкнулись в детстве и как стали много работать

Psychologies
Искусственный интеллект в деле Искусственный интеллект в деле

Может ли развитие искусственного интеллекта угрожать человеку?

Лиза
Деменция в семье: как справиться с переменами — 5 правил Деменция в семье: как справиться с переменами — 5 правил

Как выдержать испытание деменцией, где найти силы, чтобы жить дальше?

Psychologies
«История пиратства: от викингов до наших дней» «История пиратства: от викингов до наших дней»

Почему морские разбойники до сих пор существуют

N+1
Как правильно определять размер ноги – вы все это время ходили в обуви не вашего размера! Как правильно определять размер ноги – вы все это время ходили в обуви не вашего размера!

Как правильно измерять размер нужной вам обуви

ТехИнсайдер
Немой заговорил: пять стадий принятия звука в кино Немой заговорил: пять стадий принятия звука в кино

Как звук захватил кино и как индустрия пережила революцию

Правила жизни
Из чего сделана девчонка: 5 фильмов, вдохновивших Грету Гервиг на создание «Барби» Из чего сделана девчонка: 5 фильмов, вдохновивших Грету Гервиг на создание «Барби»

Как эти неординарные фильмы вдохновили Грету Гервиг?

Правила жизни
Радость моя, твоя, наша Радость моя, твоя, наша

Поговорка «Кому – арбуз, а кому – свиной хрящик» не лишена смысла

Лиза
Необъяснимые загадки молний: почему нельзя звонить в грозу и как электричество срывает с людей одежду Необъяснимые загадки молний: почему нельзя звонить в грозу и как электричество срывает с людей одежду

Молния — физическое явление, способное вытворять очень странные штуки

Maxim
Икона скама: что происходит в бренде ÖMANKÖ и почему его покинул Артем Ермилов Икона скама: что происходит в бренде ÖMANKÖ и почему его покинул Артем Ермилов

Разбираемся, что происходит с популярным сообществом ÖMANKÖ

Правила жизни
Головная боль всех кошатников: как отучить питомца царапать мебель Головная боль всех кошатников: как отучить питомца царапать мебель

Почему кота больше привлекает не когтеточка, а ваш диван?

ТехИнсайдер
«Будьте аккуратнее с диагнозами»: 8 советов психологам-дилетантам, любящим анализировать близких «Будьте аккуратнее с диагнозами»: 8 советов психологам-дилетантам, любящим анализировать близких

Как деликатно и тактично обсуждать чувства и эмоции другого человека?

Psychologies
Финское лето. Тест шин Nokian Nordman S2 SUV Финское лето. Тест шин Nokian Nordman S2 SUV

Мы поставили на Subaru Forester финские Nokian Nordman S2 SUV и не прогадали

4x4 Club
Одиночество вдвоем: почему отношения становятся несчастливыми Одиночество вдвоем: почему отношения становятся несчастливыми

Почему люди ощущают себя одинокими в паре?

Psychologies
7 признаков того, что вас ждет развод 7 признаков того, что вас ждет развод

Если не работать с этими проблемами, они могут привести к разводу

Psychologies
Верхний регистр Верхний регистр

Новый Exeed RX. Автомобиль, сыгранный по нотам

Автопилот
Освещение с датчиком движения: какой светильник выбрать Освещение с датчиком движения: какой светильник выбрать

Вопрос комфортного освещения может быть решен светильником с датчиком движения

CHIP
На изящном: история картины Роберта Фалька «Старая Руза» На изящном: история картины Роберта Фалька «Старая Руза»

Как создавалась картина импрессиониста Роберта Фалька «Старая Руза»?

Правила жизни
5 способов защититься от сглаза: советы ведьм и шамана 5 способов защититься от сглаза: советы ведьм и шамана

Добавь эти украшения в свою коллекцию — они помогают, даже если в них не веришь!

VOICE
Альтернативные факты: почему фейк-ньюс существуют и какие люди в них чаще верят Альтернативные факты: почему фейк-ньюс существуют и какие люди в них чаще верят

Отрывок из книги «Новые боги» психолога Кристиана Монтага

Forbes
Чтобы осознать власть кофе, надо от него на время отказаться Чтобы осознать власть кофе, надо от него на время отказаться

Как африканское дерево использовало нас для покорения мира

VC.RU
Кто такие деинфлюенсеры и почему они возненавидели дорогие фены, термокружки и тушь Кто такие деинфлюенсеры и почему они возненавидели дорогие фены, термокружки и тушь

Существует ли деинфлюенсинг в России и насколько это явление новое

Forbes
Угадайте, какая страна стала самой прожорливой в мире. Спойлер: это не США! Угадайте, какая страна стала самой прожорливой в мире. Спойлер: это не США!

Сколько калорий потребляют разные страны

ТехИнсайдер
За 30 лет число детей с диабетом выросло на 40 процентов За 30 лет число детей с диабетом выросло на 40 процентов

Уровень заболеваемости диабетом увеличился с 9,31 до 11,61 на 100000 населения

N+1
90 процентов морепродуктов оказались под угрозой из-за человека 90 процентов морепродуктов оказались под угрозой из-за человека

Антропогенная деятельность загрязняет и нагревает природные воды

N+1
Люди услышали тишину Люди услышали тишину

Как именно люди воспринимают тишину?

N+1
Футбольный сезон окончен. Как Хантер Томпсон изменил американскую журналистику Футбольный сезон окончен. Как Хантер Томпсон изменил американскую журналистику

Гонзо-журналистика: как писал Хантер Томпсон

СНОБ
«Империя законности» «Империя законности»

Юридические перемены и культурное разнообразие в позднеимперской России

N+1
Открыть в приложении