Какие галлюцинации видит искусственный интеллект?

ТехИнсайдерHi-Tech

У ИИ бывают «галлюцинации», но не такие, как у человека

Владимир Губайловский

a4aa6d7bb83abda5116f5e69aff6ddba_ce_1400x934x0x0.jpg
https://bernardmarr.com/

Ученые анализируют новый феномен, возникший за последний год после распространения чат-ботов, таких как ChatGPT. Большая языковая модель может не только выдать неверную информацию, но и упорствовать, доказывая, что все так и есть. Это явление получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. На сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека.

Галлюцинации ИИ в чем-то воспроизводят галлюцинации человека, и научившись "лечить" галлюцинации на модели, мы и человеку поможем лучше понимать реальность.

Запуск все более мощных больших языковых моделей (LLM), таких как GPT-3.5 и 4.0 вызвал большой интерес за последний год. Сначала люди пришли буквально в восторг от возможностей чат-ботов, но доверие к этим моделям ослабло, когда пользователи обнаружили, что модели ошибаются, что они, как и мы, не совершенны.

Явление, когда LLM не только выдает неверную информацию, но и упорствует, доказывая, что все так и есть, получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. Сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека. Возможно, ИИ в чем-то повторяет наш собственный опыт.

Понимая такую связь можно попытаться создавать более продвинутые системы ИИ, которые в конечном итоге помогут уменьшить количество человеческих ошибок.

Как галлюцинируют люди

4e72f4a581d0a0f204c99abcc7cd4972.jpg
bbc.com

Люди придумывают информацию. Иногда это делается намеренно, а иногда - это ошибка памяти. Такие ошибки часто является результатом своего рода "эвристики", основанной на нашем опыте. Мы заменяем длинное рассуждение ярлыком, который рождается при сжатии ошибочных данных.

Часто эти ярлыки рождаются из необходимости. В любой момент времени мы можем обработать лишь ограниченное количество информации, поступающей на наши органы чувств, и можем запомнить лишь малую часть всей информации, с которой мы сталкиваемся.

Поэтому наш мозг должен использовать заученные ассоциации, чтобы заполнить пробелы и быстро ответить на любой вопрос или затруднение, возникшее перед нами. Другими словами, наш мозг угадывает правильный ответ на основе ограниченных знаний. Это явление называется "конфабуляция" (confabulation - или попросту "болтовня") и является примером человеческого предубеждения.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Сезон айс-латте начался, а полезно ли вообще пить холодный кофе? Спойлер: еще как! Сезон айс-латте начался, а полезно ли вообще пить холодный кофе? Спойлер: еще как!

О пользе обычного кофе известно немало, а что насчет пользы холодного напитка?

ТехИнсайдер
Чем так важна икона «Троица» Андрея Рублева для мирового искусства? Чем так важна икона «Троица» Андрея Рублева для мирового искусства?

Почему икона стала камнем преткновения между РПЦ и музейным обществом?

Maxim
Поменяйте настройки в телевизоре, чтобы смотреть фильмы с удовольствием! Список лайфхаков Поменяйте настройки в телевизоре, чтобы смотреть фильмы с удовольствием! Список лайфхаков

Настроить телевизор правильно — проще, чем кажется

ТехИнсайдер
Профессор из Стэнфорда уверен, что инопланетяне уже на Земле, но люди ничего не замечают! Согласны? Профессор из Стэнфорда уверен, что инопланетяне уже на Земле, но люди ничего не замечают! Согласны?

Неужели инопланетяне были на Земле? Как это проверить?

ТехИнсайдер
Слушаем и не осуждаем: чем полезны сплетни на работе и когда они вредят коллективу Слушаем и не осуждаем: чем полезны сплетни на работе и когда они вредят коллективу

Как сплетни и слухи могут влиять на рабочий процесс и настроения в офисе

Forbes
Wi-Fi-радар: как нас выслеживают, чтобы замучить рекламой Wi-Fi-радар: как нас выслеживают, чтобы замучить рекламой

На вас сыплется интернет-реклама, стоит вам только зайти в магазин?

CHIP
Она развелась в 70 лет, но в свои 102 года ни о чем не жалеет! Счастливая история Она развелась в 70 лет, но в свои 102 года ни о чем не жалеет! Счастливая история

Глэдис МакГэри нашла свое счастье на пенсии

ТехИнсайдер
Психология гиперпотребления: почему мы едим слишком много Психология гиперпотребления: почему мы едим слишком много

Что заставляет нас потреблять сверх меры и как это может отразиться на здоровье

Psychologies
Даже с маленьким мозгом можно жить. Ученые выяснили интересные факты о Homo naledi Даже с маленьким мозгом можно жить. Ученые выяснили интересные факты о Homo naledi

Мозг у Homo naledi был примерно в три раза меньше, чем у современного человека

ТехИнсайдер
Что делать, если громко урчит живот: 10 работающих лайфхаков Что делать, если громко урчит живот: 10 работающих лайфхаков

Как быстро избавиться от урчания в животе?

ТехИнсайдер
Самая массивная черная дыра: абсолютный чемпион Самая массивная черная дыра: абсолютный чемпион

Чемпион среди черных дыр — его масса превышает массу Солнца в 40 000 000 000 раз

ТехИнсайдер
Такие маленькие, но такие полезные: 7 удивительных преимуществ семян чиа и как правильно их употреблять Такие маленькие, но такие полезные: 7 удивительных преимуществ семян чиа и как правильно их употреблять

Этот крошечный суперпродукт поддерживает здоровье пищеварительной системы

ТехИнсайдер
Лиза Шакира Лиза Шакира

«Шакира-Шакира» мы начали скандировать сразу

Собака.ru
Первый-второй. О классовом делении в современном обществе Первый-второй. О классовом делении в современном обществе

«Зачем стремиться к лучшему и что это такое — лучше?»

СНОБ
Как выглядит в обычной жизни самая красивая принцесса Иордании - и какой она была еще несколько лет назад Как выглядит в обычной жизни самая красивая принцесса Иордании - и какой она была еще несколько лет назад

Хаала бинт аль Хашим проснулась знаменитой после свадьбы своего кузена

VOICE
Пожилая британка искупалась в холодной воде и потеряла память Пожилая британка искупалась в холодной воде и потеряла память

Британские врачи описали случай потери памяти после купания в холодной воде

N+1
Из чего состоит роман Ивана Тургенева «Отцы и дети» Из чего состоит роман Ивана Тургенева «Отцы и дети»

Как роман Ивана Тургенева «Отцы и дети» повлиял на культуру и политику страны

СНОБ
На чужом несчастье: как Стинг разрушил свой брак ради настоящей любви На чужом несчастье: как Стинг разрушил свой брак ради настоящей любви

Долгие семейные союзы в Голливуде редкость, но Стинг и Труди — исключение

VOICE
Киноляпы известных фильмов, ставшие «фирменными фишками» Киноляпы известных фильмов, ставшие «фирменными фишками»

Знаменитые «не баг, а фича!» в кино

Maxim
В соцсетях обсуждают «Берберин», растительный аналог «Оземпика». Можно ли на нем похудеть и насколько это безопасно? В соцсетях обсуждают «Берберин», растительный аналог «Оземпика». Можно ли на нем похудеть и насколько это безопасно?

Как работают таблетки «Берберин» и помогут ли они похудеть?

Правила жизни
5 фэнтезийных циклов с экзотическими мирами 5 фэнтезийных циклов с экзотическими мирами

Ближний Восток, Азия, доколониальная Америка и Африка в сеттинге фэнтези

Maxim
Самые добрые породы кошек Самые добрые породы кошек

9 покладистых и ласковых пород кошек, которые не представляют жизни без человека

Maxim
Каким был Эрнесто Че Гевара — рассказывает его брат Каким был Эрнесто Че Гевара — рассказывает его брат

Младший брат Че рассказывает об их детстве и о жизни в тени протеста

Правила жизни
Что такое мысленный эксперимент с «кораблем Тесея»? Что такое мысленный эксперимент с «кораблем Тесея»?

Корабль — это сумма его досок, сумма историй его плаваний или все вместе?

ТехИнсайдер
Родиной самого большого в мире геккона оказалась Новая Каледония Родиной самого большого в мире геккона оказалась Новая Каледония

Зоологи разобрались с происхождением самого большого в мире геккона

N+1
Нелегкий вопрос. Могут ли тополя менять пол и как избавиться от пуха Нелегкий вопрос. Могут ли тополя менять пол и как избавиться от пуха

Можно ли вывести тополя без пуха и как спасаться от него прямо сейчас?

СНОБ
Тюрьмы по всему миру не зарегистрировали половину случаев туберкулеза Тюрьмы по всему миру не зарегистрировали половину случаев туберкулеза

Россия оказалась среди стран с наибольшей частотой туберкулеза среди заключенных

N+1
Как быстро похудеть на 5 кг: помогут эти упражнения с утяжелителями Как быстро похудеть на 5 кг: помогут эти упражнения с утяжелителями

Упражнения, которые задействуют более одной группы мышц одновременно

VOICE
История Дэвида Реймера, которого насильно превратили в девочку: гендерный эксперимент Джона Мани История Дэвида Реймера, которого насильно превратили в девочку: гендерный эксперимент Джона Мани

Как пустяковая операция обернулась катастрофой для семьи Реймер

ТехИнсайдер
Золотое сечение Золотое сечение

5 советов от дизайнера, как улучшить интерьер с помощью формулы гармонии

Лиза
Открыть в приложении