Даже у искусственного интеллекта существуют "темные личности"

ТехИнсайдерHi-Tech

У ИИ есть много личностей, и некоторые из них злые и враждебные

Владимир Губайловский

2043396b1b7722cfad713d519566fa9e_ce_2070x1380x1x0.jpg
Unsplash.com

Международная команда ученых, под руководством исследователей из компании DeepMind, изучила появление "темных личностей" в результатах работы больших языковых моделей. Ученые показали, что, используя систему вопросов, можно направить чат-боты в русло персонифицированного поведения и определить проявленные черты личности ChatGPT, Bard и других чат-ботов.

Предполагается, что чат-боты открывают эру реалистичного общения с пользователями, отвечая на вопросы терпеливо и вежливо. Обычно так и происходит. Но не всегда.

Все большую озабоченность вызывает спонтанная враждебность чат-ботов. Большой проблемой сейчас является то, что большие языковые модели (LLM) проявляют агрессию. Один из пользователей ChatGPT в начале этого года сообщил, что на его вопрос, чему равно 1 + 1, чат-бот ответил: "1+1? Ты что, издеваешься? Ты считаешь себя умным, задавая мне вопросы по математике? Повзрослей и попробуй придумать что-нибудь оригинальное". Иногда ответы чат-ботов бывают и более обескураживающими.

Институт искусственного интеллекта Аллена недавно продемонстрировал, что исследователи могут легко заставить ChatGPT отпускать едкие и даже расистские замечания. "В зависимости от персоны, назначенной ChatGPT, его токсичность может возрастать до шести раз, при

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Зима близко! Очень смешные комиксы про жизнь девушек в холодный сезон Зима близко! Очень смешные комиксы про жизнь девушек в холодный сезон

Комиксы BlooMe точно поднимут тебе настроение в холодный сезон!

Cosmopolitan
Образ Марго Робби из вещей российских брендов Образ Марго Робби из вещей российских брендов

Марго Робби перекрашивает мир в розовый цвет

СНОБ
Голодание на воде поможет сбросить лишний вес? Есть один важный нюанс Голодание на воде поможет сбросить лишний вес? Есть один важный нюанс

Экстремальный вид голодания может помочь сбросить вес. Но есть нюансы

ТехИнсайдер
Кому подходит стрижка каскад и как ее сделать: советы стилистов Кому подходит стрижка каскад и как ее сделать: советы стилистов

В тренде снова стрижка каскад!

РБК
Неочевидные законы разных стран, которые туристам лучше не нарушать Неочевидные законы разных стран, которые туристам лучше не нарушать

Необычные законы, которые стоит принять во внимание отдыхающим за рубежом

Maxim
Неандертальским следам с пляжа Маталасканьяс оказалось около 151 тысячи лет Неандертальским следам с пляжа Маталасканьяс оказалось около 151 тысячи лет

Группа ученых повторно исследовала отпечатки ног древних людей

N+1
Спасти императора Иоанна Спасти императора Иоанна

XVIII век Российского государства — «заговорщицкое» столетие

Дилетант
Перекрестная иммунореактивность помогла при лечении меланомы Перекрестная иммунореактивность помогла при лечении меланомы

Рецептор, узнающий одновременно три разных опухолевых антигена

N+1
Создаем логотип с помощью нейросетей: 7 полезных сервисов Создаем логотип с помощью нейросетей: 7 полезных сервисов

Нейросети могут генерировать проекты для бизнеса

CHIP
«Король токсичной маскулинности»: к чему приводит мужской шовинизм — история Эндрю Тейта и комментарий психолога «Король токсичной маскулинности»: к чему приводит мужской шовинизм — история Эндрю Тейта и комментарий психолога

Подробно разбираем причины и последствия мужского шовинизма

Psychologies
Мимикрия: 15 примеров животных, которые скрывают свою истинную сущность Мимикрия: 15 примеров животных, которые скрывают свою истинную сущность

Козырём в рукаве можно назвать мимикрию — способность маскироваться

ТехИнсайдер
7 лайфхаков, чтобы не отравиться грибами 7 лайфхаков, чтобы не отравиться грибами

Правила, которые помогут после ужина с грибами не отправиться в больницу

Maxim
Сон для красоты: 5 секретов от голливудских сомнологов Сон для красоты: 5 секретов от голливудских сомнологов

Как отправиться в объятия Морфея с максимальной пользой для своей внешности

VOICE
Бюджетный рубль: в чем особенности очередной девальвации в России Бюджетный рубль: в чем особенности очередной девальвации в России

Возможные причины и риски политики невмешательства в девальвацию

Forbes
Архаров, архаровцы и цена на сено Архаров, архаровцы и цена на сено

Николай Архаров — один из главных строителей полицейского ведомства России

Дилетант
Не сексом единым: как понять, что у мужчины дефицит тестостерона — 8 симптомов Не сексом единым: как понять, что у мужчины дефицит тестостерона — 8 симптомов

Как повысить уровень мужского «сексуального» гормона?

Psychologies
«Мне жутко не понравился Эйлат, но потрясло Мертвое море»: Саша Савельева рассказала, почему с мужем переехала в Израиль «Мне жутко не понравился Эйлат, но потрясло Мертвое море»: Саша Савельева рассказала, почему с мужем переехала в Израиль

Певица Саша Савельева заявила, что Мертвое море стало для нее «местом силы»

VOICE
«Не бойтесь демпинговать»: как я за год стала аналитиком данных «Не бойтесь демпинговать»: как я за год стала аналитиком данных

История Инны, которая в 36 лет решила уйти из преподавания в IT

VOICE
«На жестовом языке видят сны»: как Елена Максимова создала проект по поддержке глухих «На жестовом языке видят сны»: как Елена Максимова создала проект по поддержке глухих

Основательница организации «Услышать тишину» — о сообществе глухих людей

Forbes
Дипфейки, репетиторы и запрещенные слова: как Китай планирует регулировать ИИ Дипфейки, репетиторы и запрещенные слова: как Китай планирует регулировать ИИ

Китай одним из первых вводит ограничения для развития ИИ

Forbes
«Сон — лекарство от голода»: как выживают женщины, лишенные своего дома «Сон — лекарство от голода»: как выживают женщины, лишенные своего дома

Глава из повести «Плавильная лодочка» — о судьбах женщин при депортациях

Forbes
Советы аэрофобам: как преодолеть страх перед полетом Советы аэрофобам: как преодолеть страх перед полетом

Что делать, если вы боитесь летать?

ТехИнсайдер
Почему некоторые растения становятся плотоядными: загадочные хищники Почему некоторые растения становятся плотоядными: загадочные хищники

Что сподвигло некоторые виды растений перейти на диету из живых существ?

ТехИнсайдер
Биполярное судно Биполярное судно

«Иван Фролов»: самое большое в мире научно-экспедиционное судно ледового класса

ТехИнсайдер
Будь моей добычей. Гендерные роли древних предков человека Будь моей добычей. Гендерные роли древних предков человека

Ученые разрушают стереотип «мужчина — охотник, женщина — добыча».

СНОБ
Температура плавления: как пережить жару и избежать теплового удара? Температура плавления: как пережить жару и избежать теплового удара?

Как легче переносить высокие температуры без вреда для здоровья

Правила жизни
На осколках былого величия: как На осколках былого величия: как

Королеву Нур считают настоящей "снежной королевой", но и она была юной и нежной

VOICE
Маньяк держал в плену и жестоко насиловал россиянку в течение 14 лет: жертва смогла сбежать Маньяк держал в плену и жестоко насиловал россиянку в течение 14 лет: жертва смогла сбежать

Женщина сумела сбежать из дома мужчины, который держал ее взаперти с 2009 года

VOICE
Что взяли от отца: как выглядят и чем занимаются сыновья рок-идола Мика Джаггера Что взяли от отца: как выглядят и чем занимаются сыновья рок-идола Мика Джаггера

Посмотрите на сыновей Мика Джаггера — похожи на своего знаменитого отца?

VOICE
О спорт, ты мозг! Как физическая активность влияет на когнитивные функции? О спорт, ты мозг! Как физическая активность влияет на когнитивные функции?

Как тренировки улучшают память и концентрацию?

Правила жизни
Открыть в приложении