Как система KnowHalu помогает бороться с галлюцинацими

ТехИнсайдерHi-Tech

Разработан новый метод борьбы с галлюцинациями больших лингвистических моделей

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu

Владимир Губайловский

Галлюцинация LLM. DALLE-3

Галлюцинации становятся едва ли не главным препятствием в развитии больших лингвистических моделей. Человек хочет использовать модели, но он не может доверять.

Большие языковые модели (LLM) — это диалоговые системы на основе искусственного интеллекта, которые могут отвечать на запросы пользователей и генерировать убедительные тексты, следуя инструкциям пользователя (промптам). После появления ChatGPT, разработанной OpenAI, эти модели становятся все более популярными, и все больше компаний сейчас инвестируют в их разработку.

Но чем чаще люди используют LLM, тем большую ответственность они возлагают на модели. Если необходимо постоянно проверять ответы модели, она просто теряет смысл. Она не должна бы ошибаться, а она ошибается и так редко.

Ее ошибки получили название «галлюцинаций». Можно ли избавиться, если от всех то большинства таких ошибок, или хотя уверенно их диагностировать.

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu. Она описана в статье, опубликованной на сервере препринтов arXiv.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как в лучших фильмах: 5 шпионских гаджетов времен холодной войны Как в лучших фильмах: 5 шпионских гаджетов времен холодной войны

Устройства времен холодной войны, которые делали работу шпионов эффективнее

ТехИнсайдер
По ту сторону мира: 5 книг о жизни после смерти от писателей-фантастов По ту сторону мира: 5 книг о жизни после смерти от писателей-фантастов

Как писатели-фантасты представляют загробную жизнь

ТехИнсайдер
3D-печать домов, роботы-диагносты, космические двигатели и сверхпрочные ткани: как российские стартапы создают будущее 3D-печать домов, роботы-диагносты, космические двигатели и сверхпрочные ткани: как российские стартапы создают будущее

Подборка историй людей, которые двигают прогресс

ТехИнсайдер
Чем опасны лидеры с уязвимым эго: 7 негативных особенностей Чем опасны лидеры с уязвимым эго: 7 негативных особенностей

Как даже хорошо скрываемая уязвимость мешает принимать верные решения

Psychologies
Российский фармрынок переходит на дженерики: как изменится лекарственное обеспечение Российский фармрынок переходит на дженерики: как изменится лекарственное обеспечение

Дженерики становятся ключевым драйвером роста фармацевтического рынка

Inc.
Как перестать тратить и начать зарабатывать: 3 совета Михаила Лабковского Как перестать тратить и начать зарабатывать: 3 совета Михаила Лабковского

Деньги — цель или средство? Источник удовольствия или тяжкое бремя?

Psychologies
Гражданская авиация России: задачи, технологии, тенденции Гражданская авиация России: задачи, технологии, тенденции

Как развиваются аэропортовая сеть и региональные авиаперевозки

ФедералПресс
Как IT-специалисты из Северной Кореи обманом устраивались в американские компании Как IT-специалисты из Северной Кореи обманом устраивались в американские компании

Как специалисты из КНДР использовали поддельные личности в США?

Forbes
Снимая святых Снимая святых

Глеб Панфилов как режиссер житий

Weekend
Дружеское выгорание: 5 советов тем, у кого пропало желание общаться Дружеское выгорание: 5 советов тем, у кого пропало желание общаться

Почему мы выгораем от общения с друзьями, что с этим можно сделать?

Psychologies
Символ эпохи: как Одри Хепберн меняла Голливуд и боролась с несправедливостью Символ эпохи: как Одри Хепберн меняла Голливуд и боролась с несправедливостью

Как Одри Хепберн пыталась изменить мир к лучшему?

Forbes
3 признака в поведении, по которым легко заподозрить деменцию 3 признака в поведении, по которым легко заподозрить деменцию

Ключевые признаки, которые указывают на то, что у пациента развивается деменция

Psychologies
Почему у некоторых собак хвост колечком? Зачем вообще собакам хвост? Почему у некоторых собак хвост колечком? Зачем вообще собакам хвост?

Почему природа для каждого бобика придумала разные хвосты?

ТехИнсайдер
Сейсмограф князя Голицына Сейсмограф князя Голицына

О вкладе Бориса Голицына в мировую науку — беседа с Георгием Голицыным

Знание – сила
Даже простейшие морские организмы склонны к индивидуализму! Вот что это значит: интересный факт Даже простейшие морские организмы склонны к индивидуализму! Вот что это значит: интересный факт

Почему все организмы стремятся к ведению быта на основе индивидуальных ритмов?

ТехИнсайдер
Как быстро почистить затирку плитки: советы профессиональных клинеров Как быстро почистить затирку плитки: советы профессиональных клинеров

Как быстро почистить затирку плитки и как потом за ней ухаживать?

VOICE
Это гордое имя Мандела Это гордое имя Мандела

Как Нельсон Мандела осуществил демонтаж системы апартеида

Дилетант
Акварелист-виртуоз и фаворит президента. Что нужно знать про художника Сергея Андрияку Акварелист-виртуоз и фаворит президента. Что нужно знать про художника Сергея Андрияку

Как художник Сергей Андрияку относился к искусству и почему стал известным?

СНОБ
Как не постареть раньше времени: 9 правил Как не постареть раньше времени: 9 правил

Как сохранить молодость надолго?

Psychologies
Зачем люди сидят на диете из мяса и зелени? Интересные факты о питании: стоит узнать! Зачем люди сидят на диете из мяса и зелени? Интересные факты о питании: стоит узнать!

Как комбинирование мяса с зеленью может помочь регулировать уровень сахара

ТехИнсайдер
«И плакал ангел, и слезы его были, как камни». Евгений Водолазкин о «Лавре», средневековье, любви и времени «И плакал ангел, и слезы его были, как камни». Евгений Водолазкин о «Лавре», средневековье, любви и времени

Евгений Водолазкин о его первом романе и средневековом представлении о времени

СНОБ
7 всеобщих заблуждений о психологических травмах 7 всеобщих заблуждений о психологических травмах

Некоторые мифы, которые окружают травму: что это такое и что может ее нанести

Psychologies
«Татуировщик из Освенцима»: реальная история о любви в концлагере и чувстве вины «Татуировщик из Освенцима»: реальная история о любви в концлагере и чувстве вины

«Татуировщик из Освенцима»: кино-памятник, сделанный с уважением к жертвам войны

Forbes
Удивительный мир живой природы: как общаются между собой живые организмы Удивительный мир живой природы: как общаются между собой живые организмы

Самые необычные способы коммуникации из мира фауны

ТехИнсайдер
Как улучшить память: 10 проверенных методик Как улучшить память: 10 проверенных методик

Как повысить уровень интеллекта и сохранить молодость мозга?

ТехИнсайдер
Фильмы — огонь! Фильмы — огонь!

Один из самых интересных смотров работ начинающих режиссеров со всего мира

Men Today
Вот и сказочке конец: как Винни-Пух стал серийным убийцей Вот и сказочке конец: как Винни-Пух стал серийным убийцей

Почему сказки становятся кровавыми хоррорами?

СНОБ
От фактов к фейкам: как ложь и манипуляции угрожают научным исследованиям От фактов к фейкам: как ложь и манипуляции угрожают научным исследованиям

К чему могут привести манипуляции ученых

Forbes
Как избавиться от заевшей в голове песни: 3 простых шага Как избавиться от заевшей в голове песни: 3 простых шага

Практический способ стряхнуть наваждение от заевшей песни

Psychologies
Цена прохлады: как выбрать кондиционер для дома Цена прохлады: как выбрать кондиционер для дома

На что обратить внимание при выборе кондиционера?

CHIP
Открыть в приложении