Даже у искусственного интеллекта существуют "темные личности"

ТехИнсайдерHi-Tech

У ИИ есть много личностей, и некоторые из них злые и враждебные

Владимир Губайловский

2043396b1b7722cfad713d519566fa9e_ce_2070x1380x1x0.jpg
Unsplash.com

Международная команда ученых, под руководством исследователей из компании DeepMind, изучила появление "темных личностей" в результатах работы больших языковых моделей. Ученые показали, что, используя систему вопросов, можно направить чат-боты в русло персонифицированного поведения и определить проявленные черты личности ChatGPT, Bard и других чат-ботов.

Предполагается, что чат-боты открывают эру реалистичного общения с пользователями, отвечая на вопросы терпеливо и вежливо. Обычно так и происходит. Но не всегда.

Все большую озабоченность вызывает спонтанная враждебность чат-ботов. Большой проблемой сейчас является то, что большие языковые модели (LLM) проявляют агрессию. Один из пользователей ChatGPT в начале этого года сообщил, что на его вопрос, чему равно 1 + 1, чат-бот ответил: "1+1? Ты что, издеваешься? Ты считаешь себя умным, задавая мне вопросы по математике? Повзрослей и попробуй придумать что-нибудь оригинальное". Иногда ответы чат-ботов бывают и более обескураживающими.

Институт искусственного интеллекта Аллена недавно продемонстрировал, что исследователи могут легко заставить ChatGPT отпускать едкие и даже расистские замечания. "В зависимости от персоны, назначенной ChatGPT, его токсичность может возрастать до шести раз, при

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Иноходец Иноходец

Владимир Яглыч один из немногих, у кого есть талант жить по своим правилам

Men Today
Шпион, пытающийся выйти вон Шпион, пытающийся выйти вон

Как «Заключенный» Патрика Макгуэна говорит о возможности и невозможности свободы

Weekend
Почему людей на Земле связывают именно 6 рукопожатий? Математики МФТИ нашли ответ Почему людей на Земле связывают именно 6 рукопожатий? Математики МФТИ нашли ответ

Правило шести рукопожатий подтвердили с помощью математической модели

ТехИнсайдер
Покупка подержанного MINI Countryman. Стильно, модно и надёжно Покупка подержанного MINI Countryman. Стильно, модно и надёжно

Зачем вам покупать подержанный MINI Countryman?

4x4 Club
На службе силы зла: как хакеры используют ChatGPT На службе силы зла: как хакеры используют ChatGPT

Чего нам ждать от использования нейросетей хакерами

Forbes
Изгнание злого духа Изгнание злого духа

Откуда берется внутренний критик и как с ним бороться

Лиза
Подтягиваем ягодицы Подтягиваем ягодицы

5 отличных упражнений для красивой формы ягодиц

Лиза
Как быстро и легко собирать большие пазлы: 6 стратегий Как быстро и легко собирать большие пазлы: 6 стратегий

Собрать пазл из 2000 деталей? Легко!

ТехИнсайдер
5 хитростей, которые сделают перелет с детьми беззаботным — советы стюардессы 5 хитростей, которые сделают перелет с детьми беззаботным — советы стюардессы

Как создать комфортные условия для детей в полете?

VOICE
Суперприложение Суперприложение

В Поднебесной вся коммуникация идет через систему WeChat

ТехИнсайдер
«Посмотри, в каких я сапогах»: как панк-атрибутика вышла за пределы субкультуры «Посмотри, в каких я сапогах»: как панк-атрибутика вышла за пределы субкультуры

Во многом благодаря КиШ стиль панк перестал быть исключительно субкультурным

Правила жизни
Голодание на воде поможет сбросить лишний вес? Есть один важный нюанс Голодание на воде поможет сбросить лишний вес? Есть один важный нюанс

Экстремальный вид голодания может помочь сбросить вес. Но есть нюансы

ТехИнсайдер
Непотопляемая Вайолет: история единственной женщины, пережившей гибель «Титаника» и его двух братьев-близнецов Непотопляемая Вайолет: история единственной женщины, пережившей гибель «Титаника» и его двух братьев-близнецов

История Вайолет Джессоп больше похожа на сюжет фантастического блокбастера

ТехИнсайдер
Высокая и устойчивая: почему инфляция в ЕС не сдает позиции Высокая и устойчивая: почему инфляция в ЕС не сдает позиции

Европейский центральный банк повышает процентные ставки

Forbes
Почему астрономы не могут найти в Солнечной системе таинственную «Девятую планету»? Почему астрономы не могут найти в Солнечной системе таинственную «Девятую планету»?

И с каждым годом мы обнаруживаем все больше и больше объектов Солнечной системы

ТехИнсайдер
Инопланетяне в подводных лесах и семейная жизнь зубаток Инопланетяне в подводных лесах и семейная жизнь зубаток

Знакомимся с причудливыми обитателями пролива Сальтстраумен

N+1
«Парадокс о мандарине»: как безнаказанность влияет на наше поведение «Парадокс о мандарине»: как безнаказанность влияет на наше поведение

Действует ли мораль в условиях безнаказанности?

Forbes
Чем опасен конформизм и как нелюбимая работа влияет на человека Чем опасен конформизм и как нелюбимая работа влияет на человека

Почему неудобно быть удобным?

СНОБ
Главред «Таких дел» Евгения Волункова — Forbes: «Происходит катастрофа — не паникуем» Главред «Таких дел» Евгения Волункова — Forbes: «Происходит катастрофа — не паникуем»

Интервью с главредом «Таких дел» Евгенией Волунковой

Forbes
Уроки стартаповедения: о чем не стоит забывать тем, кто запускает свой проект Уроки стартаповедения: о чем не стоит забывать тем, кто запускает свой проект

Как удержать свой стартап на плаву и сделать его успешным?

Forbes
Он мог соперничать с Twitter, но был «убит»: как появился и почему провалился Google Reader Он мог соперничать с Twitter, но был «убит»: как появился и почему провалился Google Reader

Почему руководители Google закрыли один из своих «самых дальновидных» проектов?

VC.RU
Космический телескоп Евклид будет искать темную материю Космический телескоп Евклид будет искать темную материю

Миссия Европейского космического агентства Евклид снимет миллиарды галактик

ТехИнсайдер
Не будущее, а всегда существующее Не будущее, а всегда существующее

Яков Чернихов как единственный в СССР создатель архитектурного абсолюта

Weekend
«Дышите носом: Что нужно знать о современных методах лечения болезней носа» «Дышите носом: Что нужно знать о современных методах лечения болезней носа»

Как исследуют обоняние

N+1
Уехать или остаться: как этот выбор губит целые народы Уехать или остаться: как этот выбор губит целые народы

«Югорские новеллы» — кино о необходимости сохранения традиций народов Севера

Psychologies
Каким получился «Оппенгеймер» Кристофера Нолана — самый ожидаемый фильм года Каким получился «Оппенгеймер» Кристофера Нолана — самый ожидаемый фильм года

«Оппенгеймер» — кино о амбивалентной природе человечества

Правила жизни
Археологи в Англии закопают обратно свою находку! Вот зачем это нужно Археологи в Англии закопают обратно свою находку! Вот зачем это нужно

Чтобы сохранить артефакты, археологи иногда закапывают их обратно в землю

ТехИнсайдер
Удивят, отвратят, напугают, просветят: 7 необычных книг для интеллектуалов Удивят, отвратят, напугают, просветят: 7 необычных книг для интеллектуалов

Тру-стори о лондонском приюте, мрачный артхаус о любви и притчи из Вавилона

ТехИнсайдер
Финское лето. Тест шин Nokian Nordman S2 SUV Финское лето. Тест шин Nokian Nordman S2 SUV

Мы поставили на Subaru Forester финские Nokian Nordman S2 SUV и не прогадали

4x4 Club
Остаться в живых: невероятная история Джулианы Кёпке – единственной выжившей в страшной авиакатастрофе Остаться в живых: невероятная история Джулианы Кёпке – единственной выжившей в страшной авиакатастрофе

Выжить в авиакатастрофе кажется невозможным, но 17-летней девушке удалось

ТехИнсайдер
Открыть в приложении