Ученые проверили надежность ответов, которые дают генеративные поисковые системы

ТехИнсайдерHi-Tech

Проверяйте ответы ChatGPT: его надежность пока на низком уровне

Владимир Губайловский

85c3bc8f65f53d9d658df938d7439b17_ce_1920x1280x0x0.jpg
Public Domain

ChatGPT, кажется, уже повсюду. Его используют программисты, веб-дизайнеры, писатели, музыканты, переводчики и многочисленные компании всех видов деятельности. Но он ошибается! И к тому же «умело» маскирует ошибки. Нужно быть аккуратным.

Ученые Стэнфордского университета проверили надежность ответов, которые дают генеративные поисковые системы, в том числе ChatGPT. Выводы ученые довольно тревожные. Чат-боты отвечают гладко, но за "фасадом достоверности", прячутся многочисленные ошибки: только около половины предложений были полностью подкреплены цитатами, а четверть цитат не имели надежных ссылок.

ChatGPT доступен для общего пользования всего полгода, но у него более 100 миллионов пользователей по всему миру. Он является самым быстро растущим приложением в истории и обрабатывает более 10 миллионов запросов в день. Практически ежедневно мы слышим, что он способен перевернуть все - от бизнес-моделей до личных привычек.

Но некоторые исследователи высказывают серьезные опасения по поводу ChatGPT. Наиболее заметным стало письмо, подписанное в марте более чем 1000 экспертов, в котором они призывали ввести мораторий на расширение технологии ИИ до тех пор, пока ее риски и опасности не будут лучше изучены.

Скептики в основном сосредоточены на возможности манипулирования ИИ во вредоносных целях или описывают возможные сценарии, в которых модели ИИ самостоятельно предпринимают злонамеренные действия. Другие ученые сосредоточены на более насущной проблеме: точности.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Больше не колется: 5 способов сделать льняную одежду мягче Больше не колется: 5 способов сделать льняную одежду мягче

Как сделать льняные вещи мягче и избавиться от неприятных ощущений

ТехИнсайдер
Джейн Фонда. В ожидании смысла Джейн Фонда. В ожидании смысла

Большую часть жизни я искала путь домой... к обретению себя

Караван историй
Культурный код ИИ: 3 совета по созданию чат-ботов для бизнеса Культурный код ИИ: 3 совета по созданию чат-ботов для бизнеса

Как строить более точные, этичные и адаптивные системы искусственного интеллекта

Inc.
Как правильно оплатить парковку в Москве и обойтись без штрафов. Советы Как правильно оплатить парковку в Москве и обойтись без штрафов. Советы

Как работают платные парковки в Москве, какие есть способы оплаты и льготы

РБК
Почему мы тянем время, даже когда знаем, что надо уйти? О токсичных отношениях и ловушках сознания Почему мы тянем время, даже когда знаем, что надо уйти? О токсичных отношениях и ловушках сознания

Почему же так сложно выйти из замкнутого круга токсичных отношений?

VOICE
Как эволюционная случайность навсегда изменила мозг человека: один шанс на миллион Как эволюционная случайность навсегда изменила мозг человека: один шанс на миллион

Почему ДНК людей за короткий эволюционный промежуток времени вдруг изменилась?

ТехИнсайдер
Максимум динамики и комфорта Максимум динамики и комфорта

Перед boot Düsseldorf в разных источниках фигурировал Beneteau Gran Turismo 36

Y Magazine
Кризис старения: 7 способов принять неизбежное — найдите новый смысл Кризис старения: 7 способов принять неизбежное — найдите новый смысл

Как принять грядущий уход и найти цель, чтобы продолжать радоваться

Psychologies
Гипоксия наполовину продлила жизнь ускоренно стареющих мышей Гипоксия наполовину продлила жизнь ускоренно стареющих мышей

Несколько видов воздействия, замедляющих старение и продлевающих жизнь

N+1
Высокие цели Высокие цели

13 громких автомобильных покушений XX века

Автопилот
Робость и любовь к людям: в этом секрет успеха пауков Джоро Робость и любовь к людям: в этом секрет успеха пауков Джоро

Паук Джоро может быть самым робким пауком из когда-либо описанных учеными

ТехИнсайдер
Кто и зачем на самом деле изобрел кириллицу (спойлер — нет, не Кирилл и Мефодий) Кто и зачем на самом деле изобрел кириллицу (спойлер — нет, не Кирилл и Мефодий)

Некоторые незыблемые знания не выдерживают столкновения с фактами

Maxim
Что посмотреть в ближайшем зарубежье: Киргизия, Армения, Грузия Что посмотреть в ближайшем зарубежье: Киргизия, Армения, Грузия

Раскрываем явки и пароли по Киргизии, Армении и Грузии

РБК
Приложение усилий: что происходит на рынке мобильной разработки в России Приложение усилий: что происходит на рынке мобильной разработки в России

Тренды на рынке мобильной разработки: на что нужно обратить внимание заказчикам

Forbes
Осваиваем Луну: кто побеждает в многолетней гонке за освоение спутника Земли Осваиваем Луну: кто побеждает в многолетней гонке за освоение спутника Земли

Кто станет лидером лунной гонки, ведь на пятки американцам наступает Китай?

ТехИнсайдер
Лена Ужинова Лена Ужинова

Лена Ужинова — одна из самых известных и титулованных российских художников

Правила жизни
3 досадные ошибки в домашнем уходе, которые необратимо меняют кожу: вердикт дерматолога 3 досадные ошибки в домашнем уходе, которые необратимо меняют кожу: вердикт дерматолога

В каких случаях домашние процедуры по уходу за лицом могут принести больше вреда

VOICE
Бабушка, мама, дочь: голливудские династии, где рождаются только красавицы Бабушка, мама, дочь: голливудские династии, где рождаются только красавицы

Глядя на эти знаменитые семьи, невозможно сказать, что природа отдыхает на детях

VOICE
Рак, разводы и изнасилования: страшные судьбы актрис из сериала Рак, разводы и изнасилования: страшные судьбы актрис из сериала

Как сложились жизни актрис из "Зачарованных", и как они выглядят сейчас?

VOICE
Ненормированный график и мозоли на теле: как устроен модельный бизнес в Китае Ненормированный график и мозоли на теле: как устроен модельный бизнес в Китае

Труд модели в Китае хорошо оплачивается, но условия работы сильно отличаются

Forbes
«С детьми что-то не так»: шесть по-настоящему страшных фильмов о материнстве «С детьми что-то не так»: шесть по-настоящему страшных фильмов о материнстве

Семь фильмов, которые переосмысляют деторождение

Forbes
Защитный барьер организма Защитный барьер организма

Надо повышать иммунитет. Но медики поспорили бы с такой формулировкой

Лиза
Закрыли урну головой бога: посмотрите на скульптуру К'Авиила, это первая подобная находка в Мексике Закрыли урну головой бога: посмотрите на скульптуру К'Авиила, это первая подобная находка в Мексике

В непроходимых джунглях Юкатана каждый год находят тысячи артефактов майя

Вокруг света
От Альмодовара до Скорсезе: 10 лучших короткометражных фильмов известных режиссеров От Альмодовара до Скорсезе: 10 лучших короткометражных фильмов известных режиссеров

10 коротких метров мировых режиссеров, которые точно стоит посмотреть

Forbes
Как перестать довольствоваться малым: 5 способов начать получать удовольствие от жизни Как перестать довольствоваться малым: 5 способов начать получать удовольствие от жизни

Пять способов, которые помогут сохранить веру в свои силы

Psychologies
10 cамых смешных российских комедийных сериалов 2010–2023 годов 10 cамых смешных российских комедийных сериалов 2010–2023 годов

Чтобы найти среди российских сериалов смешной, надо обладать терпением и силой

Maxim
Мнение экспертов: Марс должны покорять женщины-астронавты, а не мужчины. Вот почему! Мнение экспертов: Марс должны покорять женщины-астронавты, а не мужчины. Вот почему!

Исследование показало, что женщины лучше приспособлены для космический миссий

ТехИнсайдер
В двух ипостасях: переезд и планы театра «Практика» В двух ипостасях: переезд и планы театра «Практика»

Как полтора сезона в Музее Москвы помогли перестроиться и расширить аудиторию

СНОБ
5 признаков того, что вы находитесь в созависимых отношениях 5 признаков того, что вы находитесь в созависимых отношениях

Какие признаки созависимых отношений бывают и можно ли с этим справиться?

Psychologies
От марафона желаний до уголовного дела: что случилось с Блиновской - рассказывает нумеролог От марафона желаний до уголовного дела: что случилось с Блиновской - рассказывает нумеролог

Почему Елена Блиновская так бесславно закончила свои сверхприбыльные марафоны?

VOICE
Открыть в приложении