Какие галлюцинации видит искусственный интеллект?

ТехИнсайдерHi-Tech

У ИИ бывают «галлюцинации», но не такие, как у человека

Владимир Губайловский

a4aa6d7bb83abda5116f5e69aff6ddba_ce_1400x934x0x0.jpg
https://bernardmarr.com/

Ученые анализируют новый феномен, возникший за последний год после распространения чат-ботов, таких как ChatGPT. Большая языковая модель может не только выдать неверную информацию, но и упорствовать, доказывая, что все так и есть. Это явление получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. На сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека.

Галлюцинации ИИ в чем-то воспроизводят галлюцинации человека, и научившись "лечить" галлюцинации на модели, мы и человеку поможем лучше понимать реальность.

Запуск все более мощных больших языковых моделей (LLM), таких как GPT-3.5 и 4.0 вызвал большой интерес за последний год. Сначала люди пришли буквально в восторг от возможностей чат-ботов, но доверие к этим моделям ослабло, когда пользователи обнаружили, что модели ошибаются, что они, как и мы, не совершенны.

Явление, когда LLM не только выдает неверную информацию, но и упорствует, доказывая, что все так и есть, получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. Сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека. Возможно, ИИ в чем-то повторяет наш собственный опыт.

Понимая такую связь можно попытаться создавать более продвинутые системы ИИ, которые в конечном итоге помогут уменьшить количество человеческих ошибок.

Как галлюцинируют люди

4e72f4a581d0a0f204c99abcc7cd4972.jpg
bbc.com

Люди придумывают информацию. Иногда это делается намеренно, а иногда - это ошибка памяти. Такие ошибки часто является результатом своего рода "эвристики", основанной на нашем опыте. Мы заменяем длинное рассуждение ярлыком, который рождается при сжатии ошибочных данных.

Часто эти ярлыки рождаются из необходимости. В любой момент времени мы можем обработать лишь ограниченное количество информации, поступающей на наши органы чувств, и можем запомнить лишь малую часть всей информации, с которой мы сталкиваемся.

Поэтому наш мозг должен использовать заученные ассоциации, чтобы заполнить пробелы и быстро ответить на любой вопрос или затруднение, возникшее перед нами. Другими словами, наш мозг угадывает правильный ответ на основе ограниченных знаний. Это явление называется "конфабуляция" (confabulation - или попросту "болтовня") и является примером человеческого предубеждения.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Что делать, если змея заползла на дачу: краткий совет и полный гайд для тех, кто любит животных Что делать, если змея заползла на дачу: краткий совет и полный гайд для тех, кто любит животных

Как убрать с дачного участка заползшую змею

ТехИнсайдер
Отец отказался от короны: кто такая Виттория ди Савойя, внезапно ставшая первой наследницей трона Италии за 1000 лет Отец отказался от короны: кто такая Виттория ди Савойя, внезапно ставшая первой наследницей трона Италии за 1000 лет

Кто такая Виттория ди Савойя, и в каком положении она оказалась?

VOICE
Работа с умом: каков потенциал генеративного ИИ для роста производительности в России Работа с умом: каков потенциал генеративного ИИ для роста производительности в России

Ученые проанализировали влияние генеративного ИИ на задачи и профессии

Forbes
8 бытовых проблем, с которыми может справиться обычный пинцет — берите на заметку! 8 бытовых проблем, с которыми может справиться обычный пинцет — берите на заметку!

Это крошечное, но очень полезное приспособление должно быть в каждом доме

ТехИнсайдер
Используй ложку и телефон: 20 способов доставить себе удовольствие Используй ложку и телефон: 20 способов доставить себе удовольствие

Двадцать разных способов мастурбации на любой вкус и цвет

Cosmopolitan
«Толкиеновское Средиземье»: как Алексей Карахан открыл турбазу «Молодость» на Алтае «Толкиеновское Средиземье»: как Алексей Карахан открыл турбазу «Молодость» на Алтае

Алексей Карахан — о том, что такое современная и комфортная турбаза

Forbes
«Малочисленные народы прекрасно интегрированы в современном обществе» «Малочисленные народы прекрасно интегрированы в современном обществе»

Об участии в современной экономике женщин коренных малочисленных народов

РБК
Инвесторы ставят на дивиденды Инвесторы ставят на дивиденды

Дивидендная доходность эмитентов России остается одной из самых высоких в мире

Деньги
Ешь, пей, танцуй Ешь, пей, танцуй

Ереван — одно из самых трендовых направлений года.

Robb Report
Ненависть к пробкам и очередям: 7 триггеров, которые идут из нашего детства Ненависть к пробкам и очередям: 7 триггеров, которые идут из нашего детства

Почему рядовое событие порой вызывает у нас такую бурную реакцию?

Psychologies
Ученые озадачены! У белокожих меньше пищевых аллергий, чем у людей с другими цветами кожи Ученые озадачены! У белокожих меньше пищевых аллергий, чем у людей с другими цветами кожи

Уровень дохода и цвет кожи человека влияют на развитие пищевых аллергий

ТехИнсайдер
Правила жизни Джона Ромиты — старшего Правила жизни Джона Ромиты — старшего

Правила жизни американского художника комиксов Джона Ромиты — старшего

Правила жизни
Справа на лево: гид по японским комиксам манга Справа на лево: гид по японским комиксам манга

Как манга появилась на свет, заработала свою славу и стала массовым жанром

Правила жизни
Тонкости перехода Тонкости перехода

Управляющие ищут замену западным активам

Деньги
Родителям на заметку! Речь взрослых влияет на когнитивное развитие ребенка Родителям на заметку! Речь взрослых влияет на когнитивное развитие ребенка

Родители, которые разговаривают со своими младенцами, улучшают развитие их мозга

ТехИнсайдер
«После «Карнавальной ночи» я поехала за границу, а Гурченко не взяли», — рассказывала Тамара Носова «После «Карнавальной ночи» я поехала за границу, а Гурченко не взяли», — рассказывала Тамара Носова

От всесоюзной популярности и королевской роскоши — до полной нищеты и забвения

Караван историй
Эти четыре новых вида белка могут в скором будущем заменить животные продукты — какие они на вкус? Эти четыре новых вида белка могут в скором будущем заменить животные продукты — какие они на вкус?

Собрали самые интересные открытия — белок из воздуха, грибов, электричества

VOICE
Не будем ссориться! Не будем ссориться!

Как избегать конфликтов с окружающими?

Лиза
Десять штрафов ГИБДД, на которые может попасть каждый. Список и наказание Десять штрафов ГИБДД, на которые может попасть каждый. Список и наказание

Редкие штрафах ГИБДД, о которых могли не слышать даже опытные водители

РБК
Нужно ли мыть домашнюю кошку? Лайфхаки для кошатников! Нужно ли мыть домашнюю кошку? Лайфхаки для кошатников!

Как поддерживать гигиену домашней кошки? Нужно ли купать питомца?

ТехИнсайдер
Скорость и смертельная опасность: как «24 часа Ле-Мана» стала легендарной гонкой Скорость и смертельная опасность: как «24 часа Ле-Мана» стала легендарной гонкой

Как трасса на севере Франции изменила мир автоспорта

Forbes
5 лучших книг по мотивам игр 5 лучших книг по мотивам игр

Книги, которые позволят вам окунуться во вселенную любимых видеоигр

Maxim
Кросс-сочетание с разными нуклеофилами прошло на коктейле никелевых комплексов Кросс-сочетание с разными нуклеофилами прошло на коктейле никелевых комплексов

Химики изучили кросс-сочетания в присутствии солей никеля

N+1
Огонь-трава Огонь-трава

Повстречав это растение на своём пути, непременно замедлишь шаг

Наука и жизнь
Илья Рашкин и Игорь Гирдин Илья Рашкин и Игорь Гирдин

Бизнесмены запустили производство первого в России электрогрузомобиля

Собака.ru
Как выжить в вынужденной эмиграции и не потерять себя: 5 советов из личного опыта Как выжить в вынужденной эмиграции и не потерять себя: 5 советов из личного опыта

Как более менее пройти кризис миграции?

Psychologies
«Мы ожидаем запуска нового цикла инвестиционного кредитования» «Мы ожидаем запуска нового цикла инвестиционного кредитования»

Пессимистические прогнозы о перспективах российской экономики не сбылись

Деньги
Вакиты пока не вымерли Вакиты пока не вымерли

Зоологи обнаружили, что вакиты все еще существуют

N+1
С первыми лучами солнца: что может произойти с завтраком в отеле С первыми лучами солнца: что может произойти с завтраком в отеле

История таинственного исчезновения завтрака в отеле

Правила жизни
Каждые два ребенка из ста — аутисты Каждые два ребенка из ста — аутисты

Научные исследования о природе возникновения и возможностях лечения аутизма

Наука
Открыть в приложении