Как система KnowHalu помогает бороться с галлюцинацими

ТехИнсайдерHi-Tech

Разработан новый метод борьбы с галлюцинациями больших лингвистических моделей

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu

Владимир Губайловский

Галлюцинация LLM. DALLE-3

Галлюцинации становятся едва ли не главным препятствием в развитии больших лингвистических моделей. Человек хочет использовать модели, но он не может доверять.

Большие языковые модели (LLM) — это диалоговые системы на основе искусственного интеллекта, которые могут отвечать на запросы пользователей и генерировать убедительные тексты, следуя инструкциям пользователя (промптам). После появления ChatGPT, разработанной OpenAI, эти модели становятся все более популярными, и все больше компаний сейчас инвестируют в их разработку.

Но чем чаще люди используют LLM, тем большую ответственность они возлагают на модели. Если необходимо постоянно проверять ответы модели, она просто теряет смысл. Она не должна бы ошибаться, а она ошибается и так редко.

Ее ошибки получили название «галлюцинаций». Можно ли избавиться, если от всех то большинства таких ошибок, или хотя уверенно их диагностировать.

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu. Она описана в статье, опубликованной на сервере препринтов arXiv.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Астрономы заметили в космосе таинственную идеальную сферу Астрономы заметили в космосе таинственную идеальную сферу

Объект Телиос: совершенная сфера неизвестного происхождения

ТехИнсайдер
«Папа римский и война: Неизвестная история взаимоотношений Пия XII, Муссолини и Гитлера» «Папа римский и война: Неизвестная история взаимоотношений Пия XII, Муссолини и Гитлера»

Кто руководил кампанией против евреев в Италии

N+1
Роботы Figure научились сообща сортировать предметы Роботы Figure научились сообща сортировать предметы

Компания Figure разработала универсальный алгоритм управления роботами

N+1
«Реальная история Уиннер»: фильм о девушке, выступившей против государственной машины «Реальная история Уиннер»: фильм о девушке, выступившей против государственной машины

Как разговорное кино, в котором нет действия, оказывается напряженной драмой

Forbes
10 вещей, которые нужно успеть сделать для пожилых родителей 10 вещей, которые нужно успеть сделать для пожилых родителей

Список бесценных вещей, которые вы можете сделать для ваших родителей

Maxim
Жизнь после измены: как восстановить доверие Жизнь после измены: как восстановить доверие

Как можно восстановить доверие после того, как партнер изменил

Psychologies
10 автомобилей с самыми красивыми попами 10 автомобилей с самыми красивыми попами

За красивую попу автомобиля дизайнерам можно простить и некоторые оплошности

Maxim
«Даааааали!»: абсурдистский фильм о журналистке, которая хочет взять интервью у гения «Даааааали!»: абсурдистский фильм о журналистке, которая хочет взять интервью у гения

«Даааааали!» — фильм, снятый по заветам самого Сальвадора Дали

Forbes
Ребенок стал квадробером: как выглядит новый (опять странный!) тренд поколения альфа Ребенок стал квадробером: как выглядит новый (опять странный!) тренд поколения альфа

Почему поколению альфа так нравится менять свой образ?

Psychologies
«Я из Московской газовой службы»: история первого советского маньяка Владимира Ионесяна «Я из Московской газовой службы»: история первого советского маньяка Владимира Ионесяна

«Сейчас я очень ужасный человек, а в прошлом — очень хороший человек»

ТехИнсайдер
Цена прохлады: как выбрать кондиционер для дома Цена прохлады: как выбрать кондиционер для дома

На что обратить внимание при выборе кондиционера?

CHIP
Что такое «голое увольнение»: почему зумеры бурно празднуют уход с работы Что такое «голое увольнение»: почему зумеры бурно празднуют уход с работы

Почему зумеры воспринимают увольнение как событие, которое приносит радость?

Psychologies
Топ-7 вещей раздражающих нас в автомобиле Топ-7 вещей раздражающих нас в автомобиле

Что раздражает владельцев машин премиум-класса?

4x4 Club
Я узнал, что у меня есть актерская семья: чем занимаются наследники голливудских семей Я узнал, что у меня есть актерская семья: чем занимаются наследники голливудских семей

Гид по самым известным голливудским семьям

Правила жизни
Это не совсем я, Эдичка. Каким получился «Лимонов» Кирилла Серебренникова с Беном Уишоу и Викторией Мирошниченко? Это не совсем я, Эдичка. Каким получился «Лимонов» Кирилла Серебренникова с Беном Уишоу и Викторией Мирошниченко?

«Лимонов. Баллада об Эдичке» — кино о писателе-панке и партийном вожде

Правила жизни
Не для того, чтобы вернуться: почему появилась традиция бросать монеты в море и фонтаны? Не для того, чтобы вернуться: почему появилась традиция бросать монеты в море и фонтаны?

Зачем раньше бросали монеты в воду и откуда вообще пошла эта традиция

ТехИнсайдер
Новое слово от зумеров: кого молодежь называет анками и что это значит Новое слово от зумеров: кого молодежь называет анками и что это значит

Что такое «анк» и кого так называет молодежь?

Psychologies
Как не постареть раньше времени: 9 правил Как не постареть раньше времени: 9 правил

Как сохранить молодость надолго?

Psychologies
Запах белых ночей. Кем был создатель духов Chanel №5 Эрнест Бо Запах белых ночей. Кем был создатель духов Chanel №5 Эрнест Бо

Каким человеком был парфюмер Эрнест Бо?

СНОБ
Без вины виноватые: почему учителя становятся объектами травли со стороны подростков Без вины виноватые: почему учителя становятся объектами травли со стороны подростков

С чем связана агрессия у подростков и как правильнее на нее реагировать учителю?

Psychologies
Миллион цветных деталей Миллион цветных деталей

Весь мир играет в конструкторы «Лего» семьдесят лет и не наигрался до сих пор

Вокруг света
11 продуктов, срок годности которых можно игнорировать 11 продуктов, срок годности которых можно игнорировать

Какие продукты можно использовать даже после истекшего срока годности?

VOICE
Отношения без драм: почему женщинам становится скучно Отношения без драм: почему женщинам становится скучно

Почему же некоторым  кажется, что они не могут обойтись без скандалов?

VOICE
5 причин нежелания выходить замуж 5 причин нежелания выходить замуж

Что делать, если нет реального желания связать с кем-то жизнь?

Psychologies
История Лии Заурбековой: как одна болезненная сепарация за вечер всколыхнула всю Россию История Лии Заурбековой: как одна болезненная сепарация за вечер всколыхнула всю Россию

Почему дети сбегают из родительского дома? Дело Седы Сулеймановой

Psychologies
3 признака в поведении, по которым легко заподозрить деменцию 3 признака в поведении, по которым легко заподозрить деменцию

Ключевые признаки, которые указывают на то, что у пациента развивается деменция

Psychologies
Дачный марафон Дачный марафон

Как не превратить дачный отдых в изнуряющий труд?

Лиза
Мария Михалкова-Кончаловская: «Я пытаюсь отучиться бросаться в омут с головой» Мария Михалкова-Кончаловская: «Я пытаюсь отучиться бросаться в омут с головой»

Молодая актриса рассказала, каково принадлежать к влиятельной актерской династии

Maxim
Картель против барреля: почему ОПЕК не смогла вернуть нефть по $100 Картель против барреля: почему ОПЕК не смогла вернуть нефть по $100

Почему ОПЕК и ОПЕК+ не удается диктовать условия на нефтяном рынке

Forbes
Самые известные подкаблучники в истории Самые известные подкаблучники в истории

Принято считать, что мужчины доминируют в семье, но у всех ли так?

Maxim
Открыть в приложении