Ученые проверили надежность ответов, которые дают генеративные поисковые системы

ТехИнсайдерHi-Tech

Проверяйте ответы ChatGPT: его надежность пока на низком уровне

Владимир Губайловский

85c3bc8f65f53d9d658df938d7439b17_ce_1920x1280x0x0.jpg
Public Domain

ChatGPT, кажется, уже повсюду. Его используют программисты, веб-дизайнеры, писатели, музыканты, переводчики и многочисленные компании всех видов деятельности. Но он ошибается! И к тому же «умело» маскирует ошибки. Нужно быть аккуратным.

Ученые Стэнфордского университета проверили надежность ответов, которые дают генеративные поисковые системы, в том числе ChatGPT. Выводы ученые довольно тревожные. Чат-боты отвечают гладко, но за "фасадом достоверности", прячутся многочисленные ошибки: только около половины предложений были полностью подкреплены цитатами, а четверть цитат не имели надежных ссылок.

ChatGPT доступен для общего пользования всего полгода, но у него более 100 миллионов пользователей по всему миру. Он является самым быстро растущим приложением в истории и обрабатывает более 10 миллионов запросов в день. Практически ежедневно мы слышим, что он способен перевернуть все - от бизнес-моделей до личных привычек.

Но некоторые исследователи высказывают серьезные опасения по поводу ChatGPT. Наиболее заметным стало письмо, подписанное в марте более чем 1000 экспертов, в котором они призывали ввести мораторий на расширение технологии ИИ до тех пор, пока ее риски и опасности не будут лучше изучены.

Скептики в основном сосредоточены на возможности манипулирования ИИ во вредоносных целях или описывают возможные сценарии, в которых модели ИИ самостоятельно предпринимают злонамеренные действия. Другие ученые сосредоточены на более насущной проблеме: точности.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

6 продуктов с высоким содержанием протеина и низким содержанием калорий 6 продуктов с высоким содержанием протеина и низким содержанием калорий

Список лучших низкокалорийных продуктов, богатых белком

ТехИнсайдер
13 лучших комедий эпохи видеокассет 13 лучших комедий эпохи видеокассет

Вспоминаем фильмы, на которых выросли все современные комики

Maxim
Подводный пылесос и чистящее желе: четыре российских технологии для борьбы с нефтяным загрязнением Подводный пылесос и чистящее желе: четыре российских технологии для борьбы с нефтяным загрязнением

Как решения используют в России по уборке нефтепродуктов?

Inc.
Фигура матери: пять женщин, которые изменили представления о детской психологии Фигура матери: пять женщин, которые изменили представления о детской психологии

Женщины, чьи исследования в области психологии изменили представления о детях

Forbes
Как говорить, чтобы дети слушали Как говорить, чтобы дети слушали

Как научиться вести диалог с ребенком

kiozk originals
Начать питаться осознанно Начать питаться осознанно

Как использовать приложения для тренировки сознательного пищевого поведения

Psychologies
Геологи посчитали глобальную толщину и плотность коры Марса Геологи посчитали глобальную толщину и плотность коры Марса

В среднем марсианская кора намного толще земной или лунной

ТехИнсайдер
Арктика, Антарктика Арктика, Антарктика

Путешествие на край Земли – не красивое выражение, а вполне реальный маршрут

Новый очаг
5 ягод, которые несут максимальную пользу здоровью 5 ягод, которые несут максимальную пользу здоровью

Давайте узнаем о пользе пяти самых популярных ягод!

ТехИнсайдер
10 фильмов, которые притворяются плохими, а на самом деле классные 10 фильмов, которые притворяются плохими, а на самом деле классные

Каверзные кинокартины, которые обманывают зрителя, делая ему хорошо

Maxim
Миллионеры Юрского периода Миллионеры Юрского периода

Сколько стоят динозавры?

Деньги
Тайна Рюрика: кем же был основатель первой правящей династии на Руси Тайна Рюрика: кем же был основатель первой правящей династии на Руси

Тайна появления Рюрика на Руси до сих пор не разгадана

Вокруг света
IBM хочет построить квантовый компьютер объемом 100 000 кубит IBM хочет построить квантовый компьютер объемом 100 000 кубит

IBM объявила о планах создания квантового компьютера объемом 100 000 кубит

ТехИнсайдер
Брак — это не только сделка: как появилось замужество по любви и право на развод Брак — это не только сделка: как появилось замужество по любви и право на развод

Отрывок из книги «Неприглядная история» от блога «АСЯ ЗНАЕТ»

Forbes
Попугаи научились звонить сородичам по видеосвязи — и вот как это изменило домашних птиц Попугаи научились звонить сородичам по видеосвязи — и вот как это изменило домашних птиц

Без общения с себе подобными страдают не только люди

Вокруг света
«Джеймс Уэбб» нашел водяной пар в атмосфере планеты близкой к Земле «Джеймс Уэбб» нашел водяной пар в атмосфере планеты близкой к Земле

Из-за чего на экзопланетах может возникать водяной пар?

ТехИнсайдер
Научная публикация древнейших палеоеврейских проклятий не убедила критиков Научная публикация древнейших палеоеврейских проклятий не убедила критиков

Ученые опубликовали результаты исследования миниатюрной свинцовой пластинки

N+1
Кто проживает на дне океана: странные фанатские теории о Губке Бобе Кто проживает на дне океана: странные фанатские теории о Губке Бобе

Собрали несколько забавных (и не очень) фанатских теорий о Губке Бобе

Правила жизни
Оставаться нельзя выбраться Оставаться нельзя выбраться

Как выйти из френдзоны

Лиза
«Оля хайпилась на разводе, меня хотели заснять с любовницей»: Дмитрий Тарасов рассказал, как ушел от Бузовой «Оля хайпилась на разводе, меня хотели заснять с любовницей»: Дмитрий Тарасов рассказал, как ушел от Бузовой

Дмитрий Тарасов заверил, что не изменял Ольге Бузовой с нынешней супругой

VOICE
В Синьцзяне нашли одно из древнейших в мире верховых седел В Синьцзяне нашли одно из древнейших в мире верховых седел

Это седло лежало на тазовых костях женщины, жившей в I тысячелетии до н. э.

N+1
«Дон Масимо»: Максим Горький на Капри «Дон Масимо»: Максим Горький на Капри

Как жил знаменитый писатель Максим Горький в Италии?

Караван историй
В доме мечты В доме мечты

Пространство на стыке классических традиций, современности и любви к искусству

SALON-Interior
«Звезды в полдень»: шпионская драма о любви журналистки и сотрудника спецслужб «Звезды в полдень»: шпионская драма о любви журналистки и сотрудника спецслужб

Шпионская драма с деколониальной оптикой получилась не слишком впечатляющей

Forbes
Правда о переломившемся времени Правда о переломившемся времени

«Смерть Вазир-Мухтара»: Александр Грибоедов как архетип несбывшегося человека

Weekend
«Я не смогла сдержаться и разрыдалась»: Лариса Долина рассказала о последней встрече с Александром Абдуловым «Я не смогла сдержаться и разрыдалась»: Лариса Долина рассказала о последней встрече с Александром Абдуловым

Лариса Долина видела Александра Абдулова в больнице незадолго до его смерти

VOICE
Музей Ивана Музей Ивана

Однажды Иван Хафизов вдруг сфотографировал наличники...

Новый очаг
Они дома: почему спортсмены не спешат уходить из ЦСКА ради Олимпиады Они дома: почему спортсмены не спешат уходить из ЦСКА ради Олимпиады

Почему атлеты самовольно отказываются от международной карьеры

Forbes
Могут ли люди предвидеть разрыв и расставание влюбленной пары и стоит ли им верить Могут ли люди предвидеть разрыв и расставание влюбленной пары и стоит ли им верить

Как факт разрыва отношений меняет представление окружающих о паре

ТехИнсайдер
Осознать себя Осознать себя

Как сохранить у ребенка активный интерес к жизни и при этом не выгореть самому?

СНОБ
Открыть в приложении