Как ИИ выражает свои «принципы» в диалогах с людьми

ТехИнсайдерHi-Tech

Какие ценности есть у ИИ? Ученые изучили Claude и рассказали интересные факты!

Искусственный интеллект все чаще сталкивается с необходимостью делать ценностные суждения. В новом исследовании специалисты из Anthropic показали, как ИИ выражает свои «принципы» в диалогах с людьми и что это значит для будущего технологий.

Юрий Гандрабура

8e89ce23785299d8cf8978f9618bde41_ce_1440x960x247x567.jpg
Unsplash

Современные ИИ-системы уже давно вышли за рамки простых ответов на математические задачи или фактические вопросы. Люди ежедневно обращаются к машинам за советами, которые требуют «моральных ориентиров» — от рекомендаций по воспитанию детей до помощи в разрешении конфликтов на работе. Насколько же ответы искусственного интеллекта соответствуют заложенным разработчиками ценностям?

Команда из Anthropic представила масштабное исследование, в котором проанализировала, как ИИ Claude ведет себя «в дикой природе» — то есть в живых беседах с людьми.

9948b443a87bf08cd826e07ff3c42abd.jpg
Unsplash

Как ИИ проявляет ценности в реальных разговорах

Новое исследование охватило более 700 тысяч анонимных диалогов пользователей с Claude.

  1. Около 44% из диалогов включали субъективные вопросы, где ИИ приходилось делать выбор в пользу тех или иных ценностей.
  2. Анализ показал, что чаще всего Claude опирался на практические, эпистемические (связанные с познанием), социальные, защитные и личные ценности.
  3. Среди наиболее частых принципов/ценностей у ИИ были «профессионализм», «прозрачность» и «ясность».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

8 мест на Земле, посещать которые очень опасно 8 мест на Земле, посещать которые очень опасно

На Земле есть по-настоящему адские места! Жить в них просто невозможно

ТехИнсайдер
Ценный попутчик Ценный попутчик

Как путешествовать с собакой без стресса

Лиза
Вселенная, возможно, вращается, но очень медленно Вселенная, возможно, вращается, но очень медленно

Как открытие вращения Вселенной может решить загадку «напряжения Хаббла»

ТехИнсайдер
Если на месте не сидится Если на месте не сидится

Все существа, начиная с самых первых, неустанно пытались обрести движение

Наука и жизнь
Алёна Александрова: «В каждой женщине – невероятная сила» Алёна Александрова: «В каждой женщине – невероятная сила»

Главный редактор рассказала о юбилейных проектах и работе редакции «Лизы»

Лиза
8500 лет назад охотники-собиратели ходили по морю на Мальту 8500 лет назад охотники-собиратели ходили по морю на Мальту

Охотники-собиратели пересекали от 100 км открытой воды, чтобы достичь островов

ТехИнсайдер
Если бабушка балует ребенка Если бабушка балует ребенка

Как тактично склонить старшее поколение на свою линию воспитания

Лиза
Сезон айс-латте начался, а полезно ли вообще пить холодный кофе? Спойлер: еще как! Сезон айс-латте начался, а полезно ли вообще пить холодный кофе? Спойлер: еще как!

О пользе обычного кофе известно немало, а что насчет пользы холодного напитка?

ТехИнсайдер
Разговоры о главном диапазоне Разговоры о главном диапазоне

Что такое золотой диапазон частот и кому Минцифры намереваются его отдать

Ведомости
Личное пространство Личное пространство

Респектабельный минимализм с авторскими решениями и иконами дизайна

SALON-Interior
От полезных советов до создания ИИ-жен: как люди используют чат-ботов От полезных советов до создания ИИ-жен: как люди используют чат-ботов

Как люди пользуются персонифицированными чат-ботами?

Inc.
Меркантилизм, абсолютизм и танатология глобализации Меркантилизм, абсолютизм и танатология глобализации

Трамп открыл чемпионат мира по торговым тарифам

Деньги
Миниатюрный орнитоптер стал одноногим прыгуном Миниатюрный орнитоптер стал одноногим прыгуном

Как инженеры создали робота-прыгуна массой меньше грамма

N+1
Нерабочий парашют и утечка ядовитого газа: 5 страшных космических катастроф Нерабочий парашют и утечка ядовитого газа: 5 страшных космических катастроф

5 крупных катастроф, когда-либо происходивших в космосе

ТехИнсайдер
Бомбардировки, голод, штурм: как Калининград встречал конец войны Бомбардировки, голод, штурм: как Калининград встречал конец войны

Как принималось решение о том, что кенигсбергская земля отойдет Союзу

ФедералПресс
Кто победил бы в битве звезд боевиков 80-х про единоборства Кто победил бы в битве звезд боевиков 80-х про единоборства

Кто самый сильный — Брюс Ли или Джеки Чан? Стивен Сигал или Чак Норрис?

Maxim
Учимся понимать наши растения Учимся понимать наши растения

Легко прочитать, как именно надо ухаживать за цветком, но почему именно так?

Наука и жизнь
Исследование показало, что подростки, которые рано ложатся спать, обладают более острым мозгом Исследование показало, что подростки, которые рано ложатся спать, обладают более острым мозгом

Подростки, которые ложатся спать раньше, как правило, обладают более острым умом

Inc.
Химики надышали аммиака в микрокапли воды Химики надышали аммиака в микрокапли воды

Что они представляют собой заряженные частицы, детектируемые с микрокаплями воды

N+1
Территория детства Территория детства

7 особенностей дизайна, которые точно понравятся твоему ребенку

Лиза
Кочевая кузница Кочевая кузница

Путешествие в край шаманов за секретами якутских мастеров

Вокруг света
В абитуриенте ценят личность В абитуриенте ценят личность

Как увеличится роль индивидуальных достижений при поступлении в вузы

Ведомости
«Нынешнюю модель можно изменить только указом президента» «Нынешнюю модель можно изменить только указом президента»

Почему сегодня строится не то, что нужно обществу? Актуальная тема

Монокль
Куда приводят мечты инженеров Куда приводят мечты инженеров

Маршрут выходного дня по Калужской области

Weekend
Блестящая инвестиция Блестящая инвестиция

Как грамотно вложиться в золото

Деньги
Коллекция суеверий Коллекция суеверий

Угличский музей мистики Дарьи Чужой переосмысляет фольклор

Отдых в России
6 главных ошибок во время весеннего расхламления: мнение экспертов 6 главных ошибок во время весеннего расхламления: мнение экспертов

Какие ошибки чаще всего совершают люди во время весеннего расхламления

VOICE
Малые города для большого потока Малые города для большого потока

Российские туристы стали больше интересоваться малыми городами страны

Ведомости
В Госдуму внесли законопроект о запрете выгула опасных собак пьяными людьми и детьми В Госдуму внесли законопроект о запрете выгула опасных собак пьяными людьми и детьми

Госдума хочет внести изменения в нормы об ответственном обращении с животными

Forbes
Исследование показало что удовлетворенность жизнью имеет генетические корни Исследование показало что удовлетворенность жизнью имеет генетические корни

Черты личности и удовлетворенность жизнью в большей степени наследуются

Inc.
Открыть в приложении