Как система KnowHalu помогает бороться с галлюцинацими

ТехИнсайдерHi-Tech

Разработан новый метод борьбы с галлюцинациями больших лингвистических моделей

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu

Владимир Губайловский

Галлюцинация LLM. DALLE-3

Галлюцинации становятся едва ли не главным препятствием в развитии больших лингвистических моделей. Человек хочет использовать модели, но он не может доверять.

Большие языковые модели (LLM) — это диалоговые системы на основе искусственного интеллекта, которые могут отвечать на запросы пользователей и генерировать убедительные тексты, следуя инструкциям пользователя (промптам). После появления ChatGPT, разработанной OpenAI, эти модели становятся все более популярными, и все больше компаний сейчас инвестируют в их разработку.

Но чем чаще люди используют LLM, тем большую ответственность они возлагают на модели. Если необходимо постоянно проверять ответы модели, она просто теряет смысл. Она не должна бы ошибаться, а она ошибается и так редко.

Ее ошибки получили название «галлюцинаций». Можно ли избавиться, если от всех то большинства таких ошибок, или хотя уверенно их диагностировать.

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu. Она описана в статье, опубликованной на сервере препринтов arXiv.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как крупнейшая в мире миротворческая организация вызвала эпидемию, от которой погибли 10 000 человек Как крупнейшая в мире миротворческая организация вызвала эпидемию, от которой погибли 10 000 человек

Как в 2010 году миротворческая организация вызвала на Гаити эпидемию холеры

ТехИнсайдер
Ложь, шум и капелька яда Ложь, шум и капелька яда

Каким цифровым «зельем» можно отравить нейросеть и к чему это приведет

РБК
Русская течь: как быть с защитой персональных данных Русская течь: как быть с защитой персональных данных

Не поздно ли плакать по утекшим данным и есть ли шансы перекрыть кран утечкам

Forbes
Как продлить жизнь стиральной машине: 12 простых советов мастеров по ремонту Как продлить жизнь стиральной машине: 12 простых советов мастеров по ремонту

Эти советы по уходу за стиральной машиной стоит знать

VOICE
Раскрыта cтратегия, которой следуют успешные люди на пути к большой цели Раскрыта cтратегия, которой следуют успешные люди на пути к большой цели

Какими качествами должны обладать эффективные лидеры и сотрудники

Inc.
Инновации, для которых нужно немного сойти с ума Инновации, для которых нужно немного сойти с ума

Как небольшая фирма начала выпускать лазерное оборудование мирового класса

Монокль
Лавочка древностей: секреты мастерства торговца антиквариатом и советы начинающим Лавочка древностей: секреты мастерства торговца антиквариатом и советы начинающим

«Каким антикваром быть не стоит»: ценные советы от Дрю Притчарда

Forbes
Как фальсицифируют палестинские древности: история черных археологов в Иерусалиме Как фальсицифируют палестинские древности: история черных археологов в Иерусалиме

О подделках древних артефактов в Палестине

Forbes
Почему важно читать книги: 5 неожиданных преимуществ для здоровья Почему важно читать книги: 5 неожиданных преимуществ для здоровья

Если вы до сих пор не любите читать, узнайте, какую пользу для здоровья теряете

ТехИнсайдер
Что такое русский модерн? Что такое русский модерн?

Как русский модерн преломляется и выглядит в современных интерьерах наших дней?

Правила жизни
Мадс Миккельсен. Великий и ужасный Мадс Миккельсен. Великий и ужасный

Он никогда не мечтал сниматься в кино и вообще становиться  актером

Караван историй
Каким был один из предков позвоночных. Отрывок из книги палеонтолога Каким был один из предков позвоночных. Отрывок из книги палеонтолога

Глава из книги «Как живые» об исчезнувших живых организмах

СНОБ
Правильный гардероб: эксперт моды Тим Ильясов — об итальянском стиле, идеальных пиджаках и нелюбви к трендам из тиктока Правильный гардероб: эксперт моды Тим Ильясов — об итальянском стиле, идеальных пиджаках и нелюбви к трендам из тиктока

Исследователь моды Тим Ильясов — о мечтах юности и давних кумирах

Правила жизни
Проблемы первого мира: как Джефф Дэниелс спасает бизнес-империю от краха Проблемы первого мира: как Джефф Дэниелс спасает бизнес-империю от краха

«Мужчина в полный рост»: история о строительном магнате, который теряет империю

Forbes
Анна Большова: «Сейчас я думаю: «Сколько упущено! Сколько надо было сказать Николаю Петровичу...» Анна Большова: «Сейчас я думаю: «Сколько упущено! Сколько надо было сказать Николаю Петровичу...»

Караченцов был невероятно демократичным, как бы свой парень, душа нараспашку

Коллекция. Караван историй
В Греции нашли остатки древнейших в Европе молотильных досок В Греции нашли остатки древнейших в Европе молотильных досок

Анализ каменных артефактов, найденных на четырех археологических памятниках

N+1
Барон умер, да здравствует барон! Барон умер, да здравствует барон!

Чем известен современный британский клан Ротшильдов

Деньги
Новые улики: как тру-крайм-сериалы и подкасты помогают в реальных расследованиях Новые улики: как тру-крайм-сериалы и подкасты помогают в реальных расследованиях

Тру-крайм проекты, которые помогли сдвинуть расследования с мертвых точек

Forbes
Как образ жизни влияет на качество секса: 3 ключевых фактора Как образ жизни влияет на качество секса: 3 ключевых фактора

Как изменения в образе жизни могут повлиять на сексуальную жизнь?

Psychologies
«Рынки вернулись к привычному росту» «Рынки вернулись к привычному росту»

Как экономика Рунета адаптировалась к высоким рискам

РБК
Молодо-зелено Молодо-зелено

Проблемы, которые мешают вырастить идеальный газон

Лиза
Гениальное просто! Вот почему вам иногда нужно скучать: интересные факты Гениальное просто! Вот почему вам иногда нужно скучать: интересные факты

Как скука может нам помочь прикоснуться к своей истинной природе?

ТехИнсайдер
«У меня нет контакта со всеми. У меня есть контакт с каждым». Отрывок из книги о детском спорте «У меня нет контакта со всеми. У меня есть контакт с каждым». Отрывок из книги о детском спорте

Как избежать физических и психологических травм в детском спорте

СНОБ
Робозмею научили локоманипулировать предметами Робозмею научили локоманипулировать предметами

Робот-змея может двигаться и перемещать предметы одновременно

N+1
Эмоциональный шантаж: что это и как понять, что вы с ним столкнулись Эмоциональный шантаж: что это и как понять, что вы с ним столкнулись

Выслушивали ли вы когда-нибудь просьбу или требования против своего желания?

Psychologies
Стюардесса рассказала, какие мифы об авиации в кино сильнее всего бесят Стюардесса рассказала, какие мифы об авиации в кино сильнее всего бесят

Мифы о стюардессах: высокие каблуки, запрещенные вещества и отношения с пилотами

Maxim
7 фраз, которые моментально превращают вас в токсичного душнилу 7 фраз, которые моментально превращают вас в токсичного душнилу

Эти слова обрели стилистический окрас: учитывайте, когда хотите их произнести!

Psychologies
Вячеслав Дубынин: «Важно помнить, что кроме цифрового мира есть мир реальный» Вячеслав Дубынин: «Важно помнить, что кроме цифрового мира есть мир реальный»

Как человеческий мозг адаптируется к цифровой реальности

РБК
Приятель Гая Ричи, партнер Кортни Кокс и враг Дэдпула: все фильмы Дэвида Бекхэма Приятель Гая Ричи, партнер Кортни Кокс и враг Дэдпула: все фильмы Дэвида Бекхэма

Актерская карьера экс-футболиста Дэвида Бекхэма

Forbes
Цена прохлады: как выбрать кондиционер для дома Цена прохлады: как выбрать кондиционер для дома

На что обратить внимание при выборе кондиционера?

CHIP
Открыть в приложении