Ученые проверили надежность ответов, которые дают генеративные поисковые системы

ТехИнсайдерHi-Tech

Проверяйте ответы ChatGPT: его надежность пока на низком уровне

Владимир Губайловский

85c3bc8f65f53d9d658df938d7439b17_ce_1920x1280x0x0.jpg
Public Domain

ChatGPT, кажется, уже повсюду. Его используют программисты, веб-дизайнеры, писатели, музыканты, переводчики и многочисленные компании всех видов деятельности. Но он ошибается! И к тому же «умело» маскирует ошибки. Нужно быть аккуратным.

Ученые Стэнфордского университета проверили надежность ответов, которые дают генеративные поисковые системы, в том числе ChatGPT. Выводы ученые довольно тревожные. Чат-боты отвечают гладко, но за "фасадом достоверности", прячутся многочисленные ошибки: только около половины предложений были полностью подкреплены цитатами, а четверть цитат не имели надежных ссылок.

ChatGPT доступен для общего пользования всего полгода, но у него более 100 миллионов пользователей по всему миру. Он является самым быстро растущим приложением в истории и обрабатывает более 10 миллионов запросов в день. Практически ежедневно мы слышим, что он способен перевернуть все - от бизнес-моделей до личных привычек.

Но некоторые исследователи высказывают серьезные опасения по поводу ChatGPT. Наиболее заметным стало письмо, подписанное в марте более чем 1000 экспертов, в котором они призывали ввести мораторий на расширение технологии ИИ до тех пор, пока ее риски и опасности не будут лучше изучены.

Скептики в основном сосредоточены на возможности манипулирования ИИ во вредоносных целях или описывают возможные сценарии, в которых модели ИИ самостоятельно предпринимают злонамеренные действия. Другие ученые сосредоточены на более насущной проблеме: точности.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Один снимок, миллион проблем: почему не стоит публиковать фото посадочного талона в социальных сетях Один снимок, миллион проблем: почему не стоит публиковать фото посадочного талона в социальных сетях

Чем рискуют те, кто решился на традиционное фото с посадочным талоном?

ТехИнсайдер
Астрономы наконец выяснили, что скрывается внутри Луны Астрономы наконец выяснили, что скрывается внутри Луны

Внутреннее ядро Луны на самом деле представляет собой твердый шар

ТехИнсайдер
Робособаку научили карабкаться по стенам враспор Робособаку научили карабкаться по стенам враспор

Как инженеры научили робособаку научили эффективно двигаться по вертикали

N+1
Письменная принадлежность: как предприимчивый француз обеспечил мир шариковыми ручками Письменная принадлежность: как предприимчивый француз обеспечил мир шариковыми ручками

Как Марсель Бик дал жизнь одному из символов потребительской революции XX века

Вокруг света
5 ключей к разумному оптимизму 5 ключей к разумному оптимизму

Как видеть в жизни хорошее, не вступая в противоречие со здравым смыслом

Psychologies
На Карибах нашли остатки старейшего вина в Америке На Карибах нашли остатки старейшего вина в Америке

Остатки старейшего вина сохранились в керамическом черепке XVI века

N+1
А с детьми можно? А с детьми можно?

Про путешествия с детьми копий сломано не на одну армию

Новый очаг
Уйти нельзя остаться: где поставить запятую, если мы только начали терапию Уйти нельзя остаться: где поставить запятую, если мы только начали терапию

Как понять, сколько сессий у психолога достаточно пройти?

Psychologies
Forbes представляет победителей юбилейного рейтинга «З0 до 30» Forbes представляет победителей юбилейного рейтинга «З0 до 30»

Многие наши герои строят карьеру или бизнес за рубежом

Forbes
Правила жизни Александра Абдулова Правила жизни Александра Абдулова

Правила жизни актера, режиссера и народного артиста Александра Абдулова

Правила жизни
Русский тур Русский тур

Как коровы из Месопотамии пришли на Русский Север, выжили и не замерзли

Вокруг света
Комнатную сверхпроводимость при умеренном давлении воспроизвести не удалось Комнатную сверхпроводимость при умеренном давлении воспроизвести не удалось

Эксперименты с проверкой комнатной сверхпроводимости прошли рецензирование

N+1
6 книг в жанре фэнтези, от которых невозможно оторваться 6 книг в жанре фэнтези, от которых невозможно оторваться

Книги жанра фэнтези, которые ценители не должны оставить без внимания

ТехИнсайдер
Режиссер Александр Сокуров —  Forbes: «Режимное государство нуждается в гениях» Режиссер Александр Сокуров —  Forbes: «Режимное государство нуждается в гениях»

Какую задачу решают власти, устраивая массовые гонения на деятелей культуры?

Forbes
Как Мария Цебрикова спорила с писателями о женщинах и защищала права заключенных Как Мария Цебрикова спорила с писателями о женщинах и защищала права заключенных

Мария Цебрикова разоблачала «мужской взгляд» писателей на женских персонажей

Forbes
«Океан — это непрозрачный шар, в который мы тыкаем иголочкой»: чем занимаются океанологи и как попасть в эту профессию «Океан — это непрозрачный шар, в который мы тыкаем иголочкой»: чем занимаются океанологи и как попасть в эту профессию

Чем интересна океанология и что нужно, чтобы изучать океан?

Вокруг света
Зачем нужен психолог, и как выбрать своего? Зачем нужен психолог, и как выбрать своего?

На что обратить внимание, подбирая психолога?

Здоровье
Любите чипсы? Психолог рассказала, какие чипсы выбирают люди с разными характерами Любите чипсы? Психолог рассказала, какие чипсы выбирают люди с разными характерами

Пачка чипсов может послужить почвой для размышлений о личности

Правила жизни
Парализованный паренек из Люберец: зачем Алла Пугачева прикидывалась мужчиной и чем это закончилось Парализованный паренек из Люберец: зачем Алла Пугачева прикидывалась мужчиной и чем это закончилось

Сценарий фильма «Женщина, которая поет» писали под Аллу Пугачеву

VOICE
Индустрия впечатлений: что такое авторские туры и кому они нужны Индустрия впечатлений: что такое авторские туры и кому они нужны

Как появились авторские туры и чем они примечательны

РБК
Оставаться нельзя выбраться Оставаться нельзя выбраться

Как выйти из френдзоны

Лиза
Чтобы она улыбалась Чтобы она улыбалась

Что делать ребенку, если учеба превратилась в желание понравиться учительнице

СНОБ
Почему стигматизация женского алкоголизма мешает избавляться от зависимости Почему стигматизация женского алкоголизма мешает избавляться от зависимости

Почему гендерные стереотипы усугубляют женский алкоголизм

Forbes
Модель ИИ может стать основой умного слухового аппарата Модель ИИ может стать основой умного слухового аппарата

Эта модель может стать основой интеллектуальных слуховых аппаратов

ТехИнсайдер
Насколько велик Юпитер: масштабы самой большой планеты Солнечной системы Насколько велик Юпитер: масштабы самой большой планеты Солнечной системы

Как представить настоящий размер Юпитера?

ТехИнсайдер
Пусть утро будет добрым! 5 вещей, которые надо сделать до 9 часов Пусть утро будет добрым! 5 вещей, которые надо сделать до 9 часов

Хочешь добиться успеха в делах? Начинай день правильно

Лиза
Кому подойдет диалектическая поведенческая терапия (ДПТ) Кому подойдет диалектическая поведенческая терапия (ДПТ)

ДПТ была разработана в конце 1980-х годов американским психологом Маршей Линехан

Psychologies
Красивые, но малоизвестные внучки советских кинозвезд: как живут и чем занимаются Красивые, но малоизвестные внучки советских кинозвезд: как живут и чем занимаются

Их бабушки и дедушки были кумирами не одного поколения

VOICE
Акупунктура: лечит или калечит? Акупунктура: лечит или калечит?

Помогает ли акупунктура на самом деле?

ТехИнсайдер
О чем думали люди в послевоенном 1947 году О чем думали люди в послевоенном 1947 году

Отрывок из книги Элисабет Осбринк «1947»

СНОБ
Открыть в приложении