Ученые проверили надежность ответов, которые дают генеративные поисковые системы

ТехИнсайдерHi-Tech

Проверяйте ответы ChatGPT: его надежность пока на низком уровне

Владимир Губайловский

85c3bc8f65f53d9d658df938d7439b17_ce_1920x1280x0x0.jpg
Public Domain

ChatGPT, кажется, уже повсюду. Его используют программисты, веб-дизайнеры, писатели, музыканты, переводчики и многочисленные компании всех видов деятельности. Но он ошибается! И к тому же «умело» маскирует ошибки. Нужно быть аккуратным.

Ученые Стэнфордского университета проверили надежность ответов, которые дают генеративные поисковые системы, в том числе ChatGPT. Выводы ученые довольно тревожные. Чат-боты отвечают гладко, но за "фасадом достоверности", прячутся многочисленные ошибки: только около половины предложений были полностью подкреплены цитатами, а четверть цитат не имели надежных ссылок.

ChatGPT доступен для общего пользования всего полгода, но у него более 100 миллионов пользователей по всему миру. Он является самым быстро растущим приложением в истории и обрабатывает более 10 миллионов запросов в день. Практически ежедневно мы слышим, что он способен перевернуть все - от бизнес-моделей до личных привычек.

Но некоторые исследователи высказывают серьезные опасения по поводу ChatGPT. Наиболее заметным стало письмо, подписанное в марте более чем 1000 экспертов, в котором они призывали ввести мораторий на расширение технологии ИИ до тех пор, пока ее риски и опасности не будут лучше изучены.

Скептики в основном сосредоточены на возможности манипулирования ИИ во вредоносных целях или описывают возможные сценарии, в которых модели ИИ самостоятельно предпринимают злонамеренные действия. Другие ученые сосредоточены на более насущной проблеме: точности.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

4 причины есть йогурт на ужин 4 причины есть йогурт на ужин

Какие преимуществ для пищеварения имеет употребление йогурта вечером

ТехИнсайдер
4 недели на исполнение мечты: почему марафоны желаний не работают 4 недели на исполнение мечты: почему марафоны желаний не работают

Почему люди массово верят в чудеса? И почему такие чудеса невозможны?

Psychologies
Подводный пылесос и чистящее желе: четыре российских технологии для борьбы с нефтяным загрязнением Подводный пылесос и чистящее желе: четыре российских технологии для борьбы с нефтяным загрязнением

Как решения используют в России по уборке нефтепродуктов?

Inc.
Анализ скопившегося за 2200 лет гуано указал на смену рациона андских кондоров Анализ скопившегося за 2200 лет гуано указал на смену рациона андских кондоров

Ученые реконструировали историю андских кондоров

N+1
5 психологических терминов, которые пока не перевели на русский язык 5 психологических терминов, которые пока не перевели на русский язык

Пять психологических терминов из англоязычного интернета

РБК
Лариса Голубкина: «Смешно слушать некоторые рассказы об Андрее Миронове» Лариса Голубкина: «Смешно слушать некоторые рассказы об Андрее Миронове»

Лариса Голубкина не утратила способности смеяться над собой

Коллекция. Караван историй
Максим Матвеев Максим Матвеев

Актер Максим Матвеев — о том, почему сила искусства скрыта в милосердии

Собака.ru
Исправление судьбы: как вернуть свою жизнь в правильное русло Исправление судьбы: как вернуть свою жизнь в правильное русло

Если ощущаешь, что проживаешь не свою жизнь, самое время внести коррективы

VOICE
ИИ может расшифровать, что слышит и видит мозг, и превратить в поток текста ИИ может расшифровать, что слышит и видит мозг, и превратить в поток текста

Ученые разработали систему ИИ, которую они назвали «семантическим декодером»

ТехИнсайдер
Сияние чистого ужаса Сияние чистого ужаса

«Любовь и смерть»: третья экранизация невероятно киногеничного убийства топором

Weekend
Иван Добронравов: «Я рад, что в моем окружении немало людей, которые могут сказать неприятную правду» Иван Добронравов: «Я рад, что в моем окружении немало людей, которые могут сказать неприятную правду»

Иван Добронравов рассказал о сложностях съемок в сериале «Вика-ураган»

VOICE
Как перестать просыпаться до будильника, и почему это происходит? Интересные факты! Как перестать просыпаться до будильника, и почему это происходит? Интересные факты!

Почему некоторые люди склонны постоянно просыпаться чуть раньше будильника

ТехИнсайдер
Двуличное пространство: как интернет-коммуникации мешают и в чем помогают обществу Двуличное пространство: как интернет-коммуникации мешают и в чем помогают обществу

Почему регулирование цифровых креативных индустрий усиливается?

Forbes
Дорогу осилит едящий Дорогу осилит едящий

Кулинарная карта России

Men Today
Охота на ведьм: за что женщин отправляли на костры и причем тут рыжие и красивые Охота на ведьм: за что женщин отправляли на костры и причем тут рыжие и красивые

За что невинных женщин бросали в темницы, пытали и сжигали на кострах

Forbes
Вам одиноко? Ученые нашли связь между использованием YouTube и повышенным одиночеством Вам одиноко? Ученые нашли связь между использованием YouTube и повышенным одиночеством

Исследователи обнаружили связь между YouTube и повышенным уровнем одиночества

ТехИнсайдер
Дача теперь твоя Дача теперь твоя

Приватизация земельного участка в 2023 году: инструкция для дачников

Лиза
Что ваш ребенок запомнит на всю жизнь: 5 советов от матери 17 детей Что ваш ребенок запомнит на всю жизнь: 5 советов от матери 17 детей

Детские чувства формируют основу того, кем мы становимся во взрослой жизни

Psychologies
Другая вода и почти нет кислорода: чем манит ученых «голубая дыра» глубиной 274 м на дне океана? Другая вода и почти нет кислорода: чем манит ученых «голубая дыра» глубиной 274 м на дне океана?

Содержимое этого гигантского конуса расскажет о древней Земле

Вокруг света
Как наши достоинства превращаются в недостатки: 3 примера Как наши достоинства превращаются в недостатки: 3 примера

Три примера того, как достоинства могут превращаться в недостатки

Psychologies
«Русь, куда ж несешься ты? Дай ответ»: как художник Анатолий Зверев рисовал Гоголя «Русь, куда ж несешься ты? Дай ответ»: как художник Анатолий Зверев рисовал Гоголя

Отрывок из книги «Анатолий Зверев и мировое искусство»

Forbes
Холестериновая бомба: когда в России появился бекон и как он стал таким популярным Холестериновая бомба: когда в России появился бекон и как он стал таким популярным

Производство бекона на территории России куда выгоднее, чем импорт из-за границы

Forbes
Арахисовый пластырь вылечил детей от аллергии Арахисовый пластырь вылечил детей от аллергии

Пластырь с арахисовым антигеном снижает чувствительность к арахису у детей

N+1
Могут ли люди предвидеть разрыв и расставание влюбленной пары и стоит ли им верить Могут ли люди предвидеть разрыв и расставание влюбленной пары и стоит ли им верить

Как факт разрыва отношений меняет представление окружающих о паре

ТехИнсайдер
Эмоциональная зависимость Эмоциональная зависимость

Как выявить зависимость и избавиться от нее раз и навсегда?

Лиза
Шалый барин добыл «Золотое руно»: как Николай Рябушинский вошел в историю искусств Шалый барин добыл «Золотое руно»: как Николай Рябушинский вошел в историю искусств

Один из фрагментов книги Любови Агафоновой о Николае Рябушинском

Forbes
Великие открытия: Давид Ливингстон и его путешествие по Южной Африке Великие открытия: Давид Ливингстон и его путешествие по Южной Африке

До Ливингстона половина Африканского материка казалась безжизненною пустыней

Вокруг света
Алексей Иорш Алексей Иорш

Алексей Иорш занимается живописью, графикой, стрит-артом и поднимает важные темы

Правила жизни
«Мама пожертвовала собой и привезла меня в Америку»: Мила Йовович опубликовала редкие фото «Мама пожертвовала собой и привезла меня в Америку»: Мила Йовович опубликовала редкие фото

Мила Йовович рассказала, на что решилась ее мать ради будущего дочери

VOICE
Кокетство конспирации: посмотрите, что умудрялись прятать в книгах 500 лет назад Кокетство конспирации: посмотрите, что умудрялись прятать в книгах 500 лет назад

Издавна в книгах скрывали секретное, прятали краденое, утаивали запретное

Вокруг света
Открыть в приложении