Какие галлюцинации видит искусственный интеллект?

ТехИнсайдерHi-Tech

У ИИ бывают «галлюцинации», но не такие, как у человека

Владимир Губайловский

a4aa6d7bb83abda5116f5e69aff6ddba_ce_1400x934x0x0.jpg
https://bernardmarr.com/

Ученые анализируют новый феномен, возникший за последний год после распространения чат-ботов, таких как ChatGPT. Большая языковая модель может не только выдать неверную информацию, но и упорствовать, доказывая, что все так и есть. Это явление получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. На сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека.

Галлюцинации ИИ в чем-то воспроизводят галлюцинации человека, и научившись "лечить" галлюцинации на модели, мы и человеку поможем лучше понимать реальность.

Запуск все более мощных больших языковых моделей (LLM), таких как GPT-3.5 и 4.0 вызвал большой интерес за последний год. Сначала люди пришли буквально в восторг от возможностей чат-ботов, но доверие к этим моделям ослабло, когда пользователи обнаружили, что модели ошибаются, что они, как и мы, не совершенны.

Явление, когда LLM не только выдает неверную информацию, но и упорствует, доказывая, что все так и есть, получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. Сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека. Возможно, ИИ в чем-то повторяет наш собственный опыт.

Понимая такую связь можно попытаться создавать более продвинутые системы ИИ, которые в конечном итоге помогут уменьшить количество человеческих ошибок.

Как галлюцинируют люди

4e72f4a581d0a0f204c99abcc7cd4972.jpg
bbc.com

Люди придумывают информацию. Иногда это делается намеренно, а иногда - это ошибка памяти. Такие ошибки часто является результатом своего рода "эвристики", основанной на нашем опыте. Мы заменяем длинное рассуждение ярлыком, который рождается при сжатии ошибочных данных.

Часто эти ярлыки рождаются из необходимости. В любой момент времени мы можем обработать лишь ограниченное количество информации, поступающей на наши органы чувств, и можем запомнить лишь малую часть всей информации, с которой мы сталкиваемся.

Поэтому наш мозг должен использовать заученные ассоциации, чтобы заполнить пробелы и быстро ответить на любой вопрос или затруднение, возникшее перед нами. Другими словами, наш мозг угадывает правильный ответ на основе ограниченных знаний. Это явление называется "конфабуляция" (confabulation - или попросту "болтовня") и является примером человеческого предубеждения.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Практическое руководство: 6 советов, как пережить перелет, если вам досталось кресло посередине Практическое руководство: 6 советов, как пережить перелет, если вам досталось кресло посередине

Инструкция, как выжить в полете, если вам досталось кресло по центру

ТехИнсайдер
Новая жизнь биотехнологий Новая жизнь биотехнологий

Биотехнологии стали драйвером развития многих важных областей экономики

РБК
Не работает тачпад на ноутбуке: причины и способы решения проблемы Не работает тачпад на ноутбуке: причины и способы решения проблемы

Что делать, если перестал работать тачпад на ноутбуке с Windows

CHIP
Как умирают в теплой воде Как умирают в теплой воде

Как остановить стремительное исчезновение крупнейших в мире морских звезд

Наука
Цирцея и Фея Моргана: как героини древних мифов вдохновляют современных писательниц Цирцея и Фея Моргана: как героини древних мифов вдохновляют современных писательниц

Шесть современных произведений, которые переосмысляют легендарные сюжеты

Forbes
Деревянные руки для робота: необычное изобретение Деревянные руки для робота: необычное изобретение

Теперь ученые использовали древесину для роботизированного захвата

ТехИнсайдер
Что делать, если выворачивается каре: лучшие пути спасения испорченной стрижки Что делать, если выворачивается каре: лучшие пути спасения испорченной стрижки

После стрижки каре смотрится совсем не так, как ты задумала?

VOICE
7 фильмов о разрушительной силе любви 7 фильмов о разрушительной силе любви

Фильмы о всепоглощающем чувстве любви, которой отдается в жертву самое дорогое

Maxim
Солнце, море, Дагестан Солнце, море, Дагестан

Отправляемся за пляжными развлечениями и не только в солнечный Дагестан

Лиза
Что делать, если громко урчит живот: 10 работающих лайфхаков Что делать, если громко урчит живот: 10 работающих лайфхаков

Как быстро избавиться от урчания в животе?

ТехИнсайдер
Ультрахолодным атомам придали дробное квантовое состояние Холла Ультрахолодным атомам придали дробное квантовое состояние Холла

Физики впервые экспериментально сгенерировали дробные квантовые состояния Холла

N+1
Почему мы так любим кино про недалекое прошлое: 4 причины Почему мы так любим кино про недалекое прошлое: 4 причины

Что стоит за любовью россиян к фильмам про прошлое?

Psychologies
Протесты в Польше после смерти беременной женщины. Как влияет запрет абортов на психику? Протесты в Польше после смерти беременной женщины. Как влияет запрет абортов на психику?

Как и почему запрет на аборты приводит к росту смертности?

Psychologies
«Мозг слушает» «Мозг слушает»

Как создается осмысленный звуковой мир

N+1
Будущие Атлантиды: 7 городов по всему миру, которые уходят под воду Будущие Атлантиды: 7 городов по всему миру, которые уходят под воду

Некоторые города могут полностью затонуть уже к началу следующего десятилетия

ТехИнсайдер
Палеогенетики впервые прочитали ядерные геномы вымерших европейских ослов Палеогенетики впервые прочитали ядерные геномы вымерших европейских ослов

Европейские ослы из Центральной Анатолии — самый поздние особи этого вида

N+1
Виктор Мазин Виктор Мазин

Звезда научного андеграунда Виктор Мазин возвращает в моду интеллект

Собака.ru
Первенцы Вселенной Первенцы Вселенной

Какими были древнейшие звезды, появившиеся после Большого взрыва

Наука
30 лет спустя: как сложилась жизнь солисток 30 лет спустя: как сложилась жизнь солисток

Как сложилась жизнь девушек из группы "Лицей" и как они выглядят сейчас

VOICE
Planet9. Агния Стерлигова и Александр Кармаев Planet9. Агния Стерлигова и Александр Кармаев

Бюро Planet9 устроило в Петербурге два интерактивных выставочных суперхита

Собака.ru
Как починить молнию на одежде без помощи мастера: простой ремонт своими руками Как починить молнию на одежде без помощи мастера: простой ремонт своими руками

Есть несколько простых лайфхаков, которые помогут исправить молнию на одежде

ТехИнсайдер
Пропали без вести и ушли из кино: что стало с детьми из любимого фильма «Подкидыш» Пропали без вести и ушли из кино: что стало с детьми из любимого фильма «Подкидыш»

Как сложилась судьба детей-актеров из фильма «Подкидыш»?

VOICE
Почему опасно делать гель-маникюр дома: эта ошибка может испортить здоровье на всю жизнь Почему опасно делать гель-маникюр дома: эта ошибка может испортить здоровье на всю жизнь

Почему нужно быть осторожной с гель-лаком?

VOICE
Опасная бессонница Опасная бессонница

Учёные предупреждают: бессонница связана с повышенным риском сердечного приступа

Здоровье
Мать всех английских монархов: история королевы Елизаветы Йоркской Мать всех английских монархов: история королевы Елизаветы Йоркской

Отрывок из книги «Елизавета Йоркская. Последняя Белая роза»

Forbes
От «Хранителей» до «Ходячих мертвецов»: 15 лучших сериалов по комиксам От «Хранителей» до «Ходячих мертвецов»: 15 лучших сериалов по комиксам

Сериалы по комиксам — Marvel, DC, Image Comics, японская манга, мультсериалы

Правила жизни
Великая степь Великая степь

Великая степь была всегда, сколько себя помнит человечество

Вокруг света
Совместное творчество: как искусство пришло в индустрию красоты Совместное творчество: как искусство пришло в индустрию красоты

Рассказываем о точках соприкосновения мира искусства и индустрии красоты

Правила жизни
Погребенной на кровати раннесредневековой девушке воссоздали лицо Погребенной на кровати раннесредневековой девушке воссоздали лицо

Художники восстановили внешность молодой девушки из раннего Средневековья

N+1
Инвесторы ставят на дивиденды Инвесторы ставят на дивиденды

Дивидендная доходность эмитентов России остается одной из самых высоких в мире

Деньги
Открыть в приложении