GPT-3 научили нейросеть собирать информацию из разных источников

N+1Hi-Tech

GPT-3 научили искать ответы в интернете и подкреплять их ссылками на источники

Григорий Копиев

OpenAI

Разработчики из OpenAI научили нейросеть GPT-3 отвечать на вопросы так, как это часто делают люди: спрашивая у поисковика, собирая информацию из нескольких источников и давая в итоговом тексте ссылки на них. Исследование показало, что ответы такой нейросети нравятся людям больше, чем лучшие ответы на те же вопросы на Reddit. Краткое описание и интерактивные примеры опубликованы на сайте OpenAI, там же доступна статья с подробностями обучения и тестирования.

В 2017 году исследователи из Google представили архитектуру нейросетей, которую назвали трансформером. Ее ключевой особенностью стала реализация механизма внимания, позволяющая нейросети учитывать все слова в даваемом ей предложении и понимать их важность. Затем исследователи из OpenAI создали на ее основе нейросеть GPT и два ее преемника (GPT-2 и GPT-3), последний из которых научился генерировать тексты, которые часто сложно отличить от написанных человеком. Как и в случае с дипфейками, это вызвало в научном сообществе дискуссии о том, какие опасности несет в себе такая технология. В частности, из-за особенностей работы генеративные нейросети могут создавать правдоподобный, но ложный с точки зрения фактов текст.

Исследователи из OpenAI решили сделать GPT-3 более «прозрачной» и научили ее не только генерировать ответы, но и приводить ссылки на источники. Они создали для GPT-3 интерактивную среду — фактически текстовый браузер, работающий через API поисковика Bing. Среда показывает результаты выдачи по поисковому запросу с заголовками и абзацем текста, а также позволяет открыть нужную ссылку, пролистать страницу

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Шимпанзе заразились зевотой от головы андроида Шимпанзе заразились зевотой от головы андроида

Шимпанзе способны заразиться зевотой от зевающей головы человекоподобного робота

N+1
«Я боюсь эскалаторов»: как преодолеть фобию «Я боюсь эскалаторов»: как преодолеть фобию

История Саши, у которой эскалаторы вызывают панический страх

Psychologies
«Королева небес»: Что известно о самолете за $400 миллионов, который Катар подарил Трампу «Королева небес»: Что известно о самолете за $400 миллионов, который Катар подарил Трампу

Как Америке катарцы подарили самолет.

Maxim
Какова красота: звездные мужчины, которым невероятно идет макияж Какова красота: звездные мужчины, которым невероятно идет макияж

Мужчины в звездной среде более восприимчивы к бьюти-экспериментам

Cosmopolitan
Ежи от болезней и средневековый фастфуд: странные пищевые привычки времен Средневековья Ежи от болезней и средневековый фастфуд: странные пищевые привычки времен Средневековья

Страдающие ежи и Средневековье: что ели люди в эпоху рыцарей?

ТехИнсайдер
Портрет новой российской науки: Дмитрий Фомичев — математик, который строит виртуальные ядерные реакторы Портрет новой российской науки: Дмитрий Фомичев — математик, который строит виртуальные ядерные реакторы

Математик Дмитрий Фомичев: самое классное в науке — видеть результат

Esquire
7 самых неудачливых героев фильмов ужасов 7 самых неудачливых героев фильмов ужасов

У этих героев каждый день — пятница, 13-е

Maxim
Корона была ужасная, принцесса была прекрасная Корона была ужасная, принцесса была прекрасная

«Спенсер» Пабло Ларраина: леди Ди тошнит от Виндзоров

Weekend
Шестое чувство Шестое чувство

Психолог Ирина Млодик — об умении дружить и о том, как изменилась дружба

Seasons of life
Великое увольнение и тотальное выгорание: главные карьерные тренды 2021 года Великое увольнение и тотальное выгорание: главные карьерные тренды 2021 года

Главные события и тренды 2021 года на рынке труда

Forbes
Изотопы свинца в белилах картин голландских художников указали на смену сырья Изотопы свинца в белилах картин голландских художников указали на смену сырья

Ученые провели изотопный анализ белил в картинах голландских художников

N+1
Острый момент: 7 ошибок, которые ты допускаешь при бритье зоны бикини Острый момент: 7 ошибок, которые ты допускаешь при бритье зоны бикини

Самые распространенные ошибки, которые ты допускаешь при бритье зоны бикини

Cosmopolitan
Hybrid theory: как совмещение реального и цифрового меняет формат работы Hybrid theory: как совмещение реального и цифрового меняет формат работы

Разбираемся, почему традиционный формат работы больше не работает

Inc.
Дорога в историю Дорога в историю

Туристический маршрут по подлинной истории: Талицы – Мураново – Радонеж

Отдых в России
10 лучших сериалов 2021 года 10 лучших сериалов 2021 года

Рейтинг лучших сериалов 2021 года

Esquire
Писатель Алексей Иванов — о литературе, внутреннем туризме и новых структурах общества Писатель Алексей Иванов — о литературе, внутреннем туризме и новых структурах общества

Писатель Алексей Иванов о влиянии литературы на туристический бизнес

СНОБ
Женщины на госслужбе в России реже, чем мужчины, получают высокие должности Женщины на госслужбе в России реже, чем мужчины, получают высокие должности

Женщины на госслужбе занимают высокие должности намного реже, чем мужчины

Forbes
Перестают спать и умирают: ужасная болезнь, которую не умеют лечить Перестают спать и умирают: ужасная болезнь, которую не умеют лечить

Симптомы заболевания кошмарны, лечения от нее нет, а прогноз неутешителен

Cosmopolitan
На ликвидной волне На ликвидной волне

Объем первичных размещений акций российских компаний установил 10-летний рекорд

Forbes
Как завести первое в жизни растение и правильно за ним ухаживать Как завести первое в жизни растение и правильно за ним ухаживать

Отрывок из книги «Ботанический заговор» Виктории Базоевой

СНОБ
Если что, я мигом подлечу Если что, я мигом подлечу

Вот-вот мы сможем вырваться из потока машин и подняться над городской суетой

GQ
«Корабль дураков» Дмитрия Крымова «Корабль дураков» Дмитрия Крымова

О творческом методе Дмитрия Крымова размышляет Алла Боссарт

СНОБ
Топ-7 прикольных штук с Кикстартера Топ-7 прикольных штук с Кикстартера

Что предлагают стартаперы? На какие производства собирают финансирования?

CHIP
Нео на пенсии или пародия на современный Голливуд: какой получилась новая «Матрица» Нео на пенсии или пародия на современный Голливуд: какой получилась новая «Матрица»

Как новая «Матрица» стала одновременно пародией и оммажем оригинальной серии

Forbes
Одна вокруг света: старинная обсерватория и керамический город Одна вокруг света: старинная обсерватория и керамический город

150-я серия о кругосветном путешествии москвички Ирины Сидоренко

Forbes
Преимущество грамотных: почему русскому языку не нужна реформа, но нужен новый свод Преимущество грамотных: почему русскому языку не нужна реформа, но нужен новый свод

Что на самом деле стоит за новым сводом правил в русском языке

Forbes
Прототип мобильного приложения: что это и для чего нужен Прототип мобильного приложения: что это и для чего нужен

Прототип — самый простой, быстрый и наглядный способ объяснить идею

Популярная механика
Все слышали про белый шум. Но что такое розовый, коричневый и синий шум? Все слышали про белый шум. Но что такое розовый, коричневый и синий шум?

Сколько цветов шума существует в мире и как они действуют на людей?

Популярная механика
Биоархеологи нашли древнейшие свидетельства использования угля в Европе Биоархеологи нашли древнейшие свидетельства использования угля в Европе

Ученые обнаружили следы использования угля во II тысячелетии до нашей эры

N+1
Что такое выученная беспомощность и как от нее избавиться Что такое выученная беспомощность и как от нее избавиться

Когда возникает выученная беспомощность и как себе помочь?

РБК
Открыть в приложении