Как ИИ выражает свои «принципы» в диалогах с людьми

ТехИнсайдерHi-Tech

Какие ценности есть у ИИ? Ученые изучили Claude и рассказали интересные факты!

Искусственный интеллект все чаще сталкивается с необходимостью делать ценностные суждения. В новом исследовании специалисты из Anthropic показали, как ИИ выражает свои «принципы» в диалогах с людьми и что это значит для будущего технологий.

Юрий Гандрабура

8e89ce23785299d8cf8978f9618bde41_ce_1440x960x247x567.jpg
Unsplash

Современные ИИ-системы уже давно вышли за рамки простых ответов на математические задачи или фактические вопросы. Люди ежедневно обращаются к машинам за советами, которые требуют «моральных ориентиров» — от рекомендаций по воспитанию детей до помощи в разрешении конфликтов на работе. Насколько же ответы искусственного интеллекта соответствуют заложенным разработчиками ценностям?

Команда из Anthropic представила масштабное исследование, в котором проанализировала, как ИИ Claude ведет себя «в дикой природе» — то есть в живых беседах с людьми.

9948b443a87bf08cd826e07ff3c42abd.jpg
Unsplash

Как ИИ проявляет ценности в реальных разговорах

Новое исследование охватило более 700 тысяч анонимных диалогов пользователей с Claude.

  1. Около 44% из диалогов включали субъективные вопросы, где ИИ приходилось делать выбор в пользу тех или иных ценностей.
  2. Анализ показал, что чаще всего Claude опирался на практические, эпистемические (связанные с познанием), социальные, защитные и личные ценности.
  3. Среди наиболее частых принципов/ценностей у ИИ были «профессионализм», «прозрачность» и «ясность».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Феноменальная память и «кошачьи» повадки: удивительные факты о выдрах Феноменальная память и «кошачьи» повадки: удивительные факты о выдрах

Выдры – очаровательные озорники водного мира

ТехИнсайдер
Волна долговых кризисов неизбежна Волна долговых кризисов неизбежна

Как институты развития могут работать в международных проектах

Эксперт
В Финляндии стали использовать избыточное тепло дата-центров для отопления В Финляндии стали использовать избыточное тепло дата-центров для отопления

Дата-центр снабжает финский город теплом уже около десяти лет

Inc.
Перовскитные солнечные элементы как перспективное направление зеленой энергетики Перовскитные солнечные элементы как перспективное направление зеленой энергетики

Как перовскитные солнечные элементы сделают энергетическую систему экологичнее?

Наука и техника
«Тест на старика»: а вы сможете его пройти? «Тест на старика»: а вы сможете его пройти?

Если у вас есть пять минут, предлагаем испытать свои силы в тесте на старика

Maxim
Учеба без отрыва от работы Учеба без отрыва от работы

Выстроить систему обучения сотрудников можно и без корпоративного университета

Ведомости
Рома Peeks Рома Peeks

Рома Peeks рисует порцию кидкорных ковров и раскрывает этимологию фамилии

Собака.ru
Нестандартные страховки Нестандартные страховки

В страховом бизнесе развиты необычные полисы под нестандартные решения

Ведомости
Роскошь прочтения Роскошь прочтения

Что нового в фэшн-индустрии? Старомодное чтение

Grazia
Интернет высокого полета Интернет высокого полета

Когда в России заработает сеть низкоорбитальных спутников связи

Эксперт
В ритме сердца: что такое HRV и так ли он важен В ритме сердца: что такое HRV и так ли он важен

Разбираем все, что нужно знать о вариабельности сердечного ритма

РБК
Жизнь застрахуют по долям Жизнь застрахуют по долям

Страховщики запускают продажи долевого страхования жизни

Деньги
Если села батарейка Если села батарейка

20 способов восстановиться за 15 минут

Лиза
Жизнь в магнитном поле Жизнь в магнитном поле

Как изучают незаметные для органов чувств магнитные эффекты

Наука и жизнь
Бурялом Бурялом

Перед ним появилась огромная голова зверя с вытянутой мордой и острыми ушами...

Наука и жизнь
5 полезных устройств для тех, кто затеял ремонт 5 полезных устройств для тех, кто затеял ремонт

Подборка полезной и надежной техники для ремонта

CHIP
От жуткого хоррора до ироничной пародии: как кино переосмысливает классические сказки на новый лад От жуткого хоррора до ироничной пародии: как кино переосмысливает классические сказки на новый лад

Оригинальные проекты, переосмысливающие классические сказки в неожиданном ключе

Правила жизни
Бруталист Бруталист

Дмитрий Нагиев — праотец мирового кинотренда на лысого русского

Собака.ru
Вклад в людей и технологии Вклад в людей и технологии

Москва поддерживает бизнес, выделяя гранты на развитие экспортной деятельности

Ведомости
Заглянули под капот: ученые выяснили, как ИИ принимает решения на разных этапах Заглянули под капот: ученые выяснили, как ИИ принимает решения на разных этапах

Что такое метод SAE Match и как он поможет заглянуть в «душу» ИИ?

Forbes
10 вещей, которые нельзя стирать вместе, если ты не хочешь, чтобы они износились раньше времени 10 вещей, которые нельзя стирать вместе, если ты не хочешь, чтобы они износились раньше времени

Какие вещи никогда не следует совмещать в стиральной машине?

VOICE
Месть и немного любви: пять лучших фильмов этой весны о женщинах Месть и немного любви: пять лучших фильмов этой весны о женщинах

Рассказываем о пяти фильмах про женщин, которые стоит посмотреть

Forbes
Пасту для ассирийских табличек для письма сделали из воска и аурипигмента Пасту для ассирийских табличек для письма сделали из воска и аурипигмента

Чем покрывали деревянные дощечки для письма в Древней Месопотамии?

N+1
У нас секса нет? У нас секса нет?

Из-за чего мужчины комплексуют в постели?

Лиза
Так буллинг приводит к трагедии: почему сериал «Переходный возраст» стал откровением для родителей Так буллинг приводит к трагедии: почему сериал «Переходный возраст» стал откровением для родителей

Чему нас может научить сериал о психологии насилия «Переходный возраст»

VOICE
Во имя красоты Во имя красоты

Елизавета Борзунова о том, как ей удается создавать уникальные украшения

Grazia
Если ребёнок обманывает Если ребёнок обманывает

Почему дети врут, и что родителям делать с этим враньём?

Здоровье
Исследование показало, что видеоигры не оказывают негативного влияния на мозг детей, а наоборот, повышают их IQ Исследование показало, что видеоигры не оказывают негативного влияния на мозг детей, а наоборот, повышают их IQ

Дети, активно играющие в видеоигры, имеют высокий уровень умственной активности

Inc.
В Госдуму внесли законопроект о запрете выгула опасных собак пьяными людьми и детьми В Госдуму внесли законопроект о запрете выгула опасных собак пьяными людьми и детьми

Госдума хочет внести изменения в нормы об ответственном обращении с животными

Forbes
Как называют самцов мухи, божьей коровки и других животных Как называют самцов мухи, божьей коровки и других животных

Как называют самцов и самок разных животных?

Maxim
Открыть в приложении