Какие галлюцинации видит искусственный интеллект?

ТехИнсайдерHi-Tech

У ИИ бывают «галлюцинации», но не такие, как у человека

Владимир Губайловский

a4aa6d7bb83abda5116f5e69aff6ddba_ce_1400x934x0x0.jpg
https://bernardmarr.com/

Ученые анализируют новый феномен, возникший за последний год после распространения чат-ботов, таких как ChatGPT. Большая языковая модель может не только выдать неверную информацию, но и упорствовать, доказывая, что все так и есть. Это явление получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. На сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека.

Галлюцинации ИИ в чем-то воспроизводят галлюцинации человека, и научившись "лечить" галлюцинации на модели, мы и человеку поможем лучше понимать реальность.

Запуск все более мощных больших языковых моделей (LLM), таких как GPT-3.5 и 4.0 вызвал большой интерес за последний год. Сначала люди пришли буквально в восторг от возможностей чат-ботов, но доверие к этим моделям ослабло, когда пользователи обнаружили, что модели ошибаются, что они, как и мы, не совершенны.

Явление, когда LLM не только выдает неверную информацию, но и упорствует, доказывая, что все так и есть, получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. Сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека. Возможно, ИИ в чем-то повторяет наш собственный опыт.

Понимая такую связь можно попытаться создавать более продвинутые системы ИИ, которые в конечном итоге помогут уменьшить количество человеческих ошибок.

Как галлюцинируют люди

4e72f4a581d0a0f204c99abcc7cd4972.jpg
bbc.com

Люди придумывают информацию. Иногда это делается намеренно, а иногда - это ошибка памяти. Такие ошибки часто является результатом своего рода "эвристики", основанной на нашем опыте. Мы заменяем длинное рассуждение ярлыком, который рождается при сжатии ошибочных данных.

Часто эти ярлыки рождаются из необходимости. В любой момент времени мы можем обработать лишь ограниченное количество информации, поступающей на наши органы чувств, и можем запомнить лишь малую часть всей информации, с которой мы сталкиваемся.

Поэтому наш мозг должен использовать заученные ассоциации, чтобы заполнить пробелы и быстро ответить на любой вопрос или затруднение, возникшее перед нами. Другими словами, наш мозг угадывает правильный ответ на основе ограниченных знаний. Это явление называется "конфабуляция" (confabulation - или попросту "болтовня") и является примером человеческого предубеждения.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Думающие» ИИ-спутники сами выбирают момент съемки Земли «Думающие» ИИ-спутники сами выбирают момент съемки Земли

Как работает система, позволяющая спутникам анализировать обстановку

ТехИнсайдер
Дама сдавала в багаж Дама сдавала в багаж

Выбираем вместительный чемодан и упаковываем его так, чтобы не было перевеса

Лиза
«А как же шарики?!» Человечество исчерпает запасы гелия быстрее, чем нефти или газа – но есть выход «А как же шарики?!» Человечество исчерпает запасы гелия быстрее, чем нефти или газа – но есть выход

Поставщики начали отказывать в поставках гелия даже научным лабораториям

ТехИнсайдер
Исследование: что малый и средний бизнес в России знает про устойчивое развитие Исследование: что малый и средний бизнес в России знает про устойчивое развитие

Как в России обстоят дела с ESG?

Forbes
План Б План Б

Как пережить несчастье, собраться с силами и снова ощутить радость жизни

kiozk originals
Отрывок из автобиографии Шэрон Стоун Отрывок из автобиографии Шэрон Стоун

Лауреат «Золотого глобуса» и «Эмми», Шэрон Стоун написала автобиографию

СНОБ
«Всё, что имею, единственно по милости Его Величества» «Всё, что имею, единственно по милости Его Величества»

Уроженец Псковского края и выходец из рода князей смоленских Василий Татищев

Дилетант
Мозг человека постоянно воспроизводит прошлые события, чтобы понять настоящее Мозг человека постоянно воспроизводит прошлые события, чтобы понять настоящее

Зачем человеческому мозгу необходимо помнить прошлое?

ТехИнсайдер
Любознательный непоседа или сдержанный интеллектуал: какой твой ребенок по психоматрице Любознательный непоседа или сдержанный интеллектуал: какой твой ребенок по психоматрице

Какими чертами характера детей наделяет январь, а какими — июль?

VOICE
Металлический мир: что известно о миссии по изучению астероида Психея, которая стартует уже осенью Металлический мир: что известно о миссии по изучению астероида Психея, которая стартует уже осенью

Зонд Psyche должен осмотреть целиком металлический мир

ТехИнсайдер
«Муж шагнул в вечность»: вдова Юрия Шатунова обратилась к поклонникам певца в годовщину его смерти «Муж шагнул в вечность»: вдова Юрия Шатунова обратилась к поклонникам певца в годовщину его смерти

Светлана Шатунова рассказала, каким мужем и отцом был Юрий Шатунов

VOICE
Атмосфера нулевых: 7 лучших фильмов, чтобы переосмыслить то время Атмосфера нулевых: 7 лучших фильмов, чтобы переосмыслить то время

Несколько фильмов и сериалов, которые погрузят вас в нулевые

Maxim
«Мне 59, ему 22»: почему зрелые женщины сексуально привлекают молодых мужчин «Мне 59, ему 22»: почему зрелые женщины сексуально привлекают молодых мужчин

Почему зрелые женщины заводят отношения с мужчинами сильно младше себя?

Psychologies
«Мы расширяем границы кредитования для предпринимателей» «Мы расширяем границы кредитования для предпринимателей»

Как выстоять в жесткой конкуренции за клиентов

Деньги
Человек со свойствами и средствами Человек со свойствами и средствами

«Счастливчик Хэнк»: симпатичная кампусная драма

Weekend
«Перчинка» и даже Трамп: этих звезд ты точно не заметила в «Сексе в большом городе» «Перчинка» и даже Трамп: этих звезд ты точно не заметила в «Сексе в большом городе»

В оригинальном «Сексе в большом городе» засветились многие звезды

VOICE
Материнство и работа: как поддержать коллегу в декрете и после него Материнство и работа: как поддержать коллегу в декрете и после него

Советы, которые помогут и уходящей в декрет сотруднице, и ее коллегам

Forbes
5 фактов об испанской инквизиции, о которых мало кто знает 5 фактов об испанской инквизиции, о которых мало кто знает

Оказывается, инквизиция не такая кровожадная организация, как мы привыкли думать

Maxim
Ветеринар-сексист возместит ущерб секретарше за харассмент: история и комментарий психолога Ветеринар-сексист возместит ущерб секретарше за харассмент: история и комментарий психолога

Что недопустимо на рабочем месте?

Psychologies
«Стоп-слово»: фильм о том, как через БДСМ-практики мужчина и женщина меняются ролями «Стоп-слово»: фильм о том, как через БДСМ-практики мужчина и женщина меняются ролями

Как авторы «Стоп-слова» связывают БДСМ-практику и гендерный дискурс

Forbes
Экономисты описали модель развития России по аналогии с Китаем Экономисты описали модель развития России по аналогии с Китаем

Российская экономика оказалась в ситуации «трех циркуляций»

Forbes
Когда нельзя идти на компромисс: 7 ситуаций — мнение семейного психолога Когда нельзя идти на компромисс: 7 ситуаций — мнение семейного психолога

Всегда ли стоит договариваться и идти на уступки?

Psychologies
Лоскут, игрушка, одеяло Лоскут, игрушка, одеяло

Создатели семейного бренда Galka исследуют образ дома

Seasons of life
Профессор из Стэнфорда уверен, что инопланетяне уже на Земле, но люди ничего не замечают! Согласны? Профессор из Стэнфорда уверен, что инопланетяне уже на Земле, но люди ничего не замечают! Согласны?

Неужели инопланетяне были на Земле? Как это проверить?

ТехИнсайдер
Наука о чужих. Жизнь и разум во Вселенной Наука о чужих. Жизнь и разум во Вселенной

Марс лучше всего наблюдать в периоды противостояний

Наука и жизнь
Не “сова” и не “жаворонок” — оказалось, у людей есть шесть основных хронотипов Не “сова” и не “жаворонок” — оказалось, у людей есть шесть основных хронотипов

Вы спите как сова или как волк?

ТехИнсайдер
Советский кутюр: история пяти культовых платьев и их создательниц Советский кутюр: история пяти культовых платьев и их создательниц

Самые известные советские платья: футуристичный Октябрь и африканские мотивы

Forbes
Исследователи попросили ChatGPT разработать кадровую политику компании. Он не справился, но помог Исследователи попросили ChatGPT разработать кадровую политику компании. Он не справился, но помог

Какую помощь может оказать чат-бот при формировании кадровой политики

ТехИнсайдер
«Это же подросток»: почему нельзя запрещать гаджеты детям в период пубертата «Это же подросток»: почему нельзя запрещать гаджеты детям в период пубертата

Отрывок из книги «Это же подросток!» — как жить и общаться с взрослеющими детьми

Forbes
От сырных гонок до перетягивания ушами: 10 самых странных видов спорта От сырных гонок до перетягивания ушами: 10 самых странных видов спорта

Виды спорта, о которых вам не рассказывал на уроках физкультуры

ТехИнсайдер
Открыть в приложении