GPT-3 научили нейросеть собирать информацию из разных источников

N+1Hi-Tech

GPT-3 научили искать ответы в интернете и подкреплять их ссылками на источники

Григорий Копиев

OpenAI

Разработчики из OpenAI научили нейросеть GPT-3 отвечать на вопросы так, как это часто делают люди: спрашивая у поисковика, собирая информацию из нескольких источников и давая в итоговом тексте ссылки на них. Исследование показало, что ответы такой нейросети нравятся людям больше, чем лучшие ответы на те же вопросы на Reddit. Краткое описание и интерактивные примеры опубликованы на сайте OpenAI, там же доступна статья с подробностями обучения и тестирования.

В 2017 году исследователи из Google представили архитектуру нейросетей, которую назвали трансформером. Ее ключевой особенностью стала реализация механизма внимания, позволяющая нейросети учитывать все слова в даваемом ей предложении и понимать их важность. Затем исследователи из OpenAI создали на ее основе нейросеть GPT и два ее преемника (GPT-2 и GPT-3), последний из которых научился генерировать тексты, которые часто сложно отличить от написанных человеком. Как и в случае с дипфейками, это вызвало в научном сообществе дискуссии о том, какие опасности несет в себе такая технология. В частности, из-за особенностей работы генеративные нейросети могут создавать правдоподобный, но ложный с точки зрения фактов текст.

Исследователи из OpenAI решили сделать GPT-3 более «прозрачной» и научили ее не только генерировать ответы, но и приводить ссылки на источники. Они создали для GPT-3 интерактивную среду — фактически текстовый браузер, работающий через API поисковика Bing. Среда показывает результаты выдачи по поисковому запросу с заголовками и абзацем текста, а также позволяет открыть нужную ссылку, пролистать страницу

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

OpenAI впервые за пять лет выпустила языковые модели с открытыми весами OpenAI впервые за пять лет выпустила языковые модели с открытыми весами

Компания OpenAI выпустила две большие языковые модели с открытыми весами

N+1
«Авербух держал нас в плену»: Даня Милохин и Евгения Медведева сделали признание «Авербух держал нас в плену»: Даня Милохин и Евгения Медведева сделали признание

Евгения Медведева и Даня Милохин рассказали о своих отношениях

Cosmopolitan
Почему мир заговорил о белом водороде: новый источник чистой энергии Почему мир заговорил о белом водороде: новый источник чистой энергии

Белый водород — новый уникальный источник энергии?

ТехИнсайдер
Мотор кухни Мотор кухни

Кто стоит за успешным шефом?

Bones
Занятия творчеством улучшают внимательность и память студентов Занятия творчеством улучшают внимательность и память студентов

Уделять время искусству может быть так же важно, как готовиться к экзаменам

ТехИнсайдер
Как правильно стрелять из снайперской винтовки: секреты мастерства Как правильно стрелять из снайперской винтовки: секреты мастерства

Какие факторы ему необходимо учесть, чтобы пуля попала именно туда, куда нужно?

ТехИнсайдер
«Имени такого-то»: роман Линор Горалик об эвакуации психиатрической больницы «Имени такого-то»: роман Линор Горалик об эвакуации психиатрической больницы

Роман Линор Горалик об эвакуации психиатрической больницы «имени такого-то»

Forbes
Текила, йога и опционы: как Адам Нейман мотивировал сотрудников WeWork Текила, йога и опционы: как Адам Нейман мотивировал сотрудников WeWork

Отрывок из книги "Миллиард за мечту" об империи WeWork и её крахе

Forbes
Теплое оружие: лютейшие клинки, которые не запрещены законом Теплое оружие: лютейшие клинки, которые не запрещены законом

Почему одни клинки считаются холодным оружием, а другие нет?

Maxim
Калькулятор сна: рассчитай, сколько тебе реально нужно спать Калькулятор сна: рассчитай, сколько тебе реально нужно спать

Универсальной нормы сна, подходящей абсолютно всем, нет

Cosmopolitan
Поменяться местами. Чем опасны сексуальные двойные стандарты Поменяться местами. Чем опасны сексуальные двойные стандарты

Как за мужчинами и женщинами закрепились роли в сексе

СНОБ
Леонид Серебренников. Сейчас или никогда Леонид Серебренников. Сейчас или никогда

Голос Леонида Серебренникова звучит в полусотне фильмов

Караван историй
Снукер: самый английский бильярд Снукер: самый английский бильярд

Разберемся, как играть в снукер, рассмотрим правила и особенности этой игры

Популярная механика
Нас догонят Нас догонят

Иван Давыдов о сериале «След»

Weekend
Исчезнувшая греза Михаила Врубеля Исчезнувшая греза Михаила Врубеля

«Принцесса Греза» Михаила Врубеля — летящие волосы, полупрозрачные одежды

Караван историй
Романтика и секс с пользой для планеты Романтика и секс с пользой для планеты

Как не ударить в грязь лицом перед экоактивисткой?

Playboy
Квартира, замок, пещера, подземелье Квартира, замок, пещера, подземелье

10 американских кинодомов в 10 цифрах

Weekend
«Как ломаются спагетти и другие задачи по физике» «Как ломаются спагетти и другие задачи по физике»

Отрывок из книги «Как ломаются спагетти и другие задачи по физике»

N+1
Zoom, Discord или Microsoft Teams? Плюсы и минусы популярных программ для видеоконференций Zoom, Discord или Microsoft Teams? Плюсы и минусы популярных программ для видеоконференций

5 программ, которые помогут тебе поддерживать связь с коллегами

Maxim
Сколько мусора в нашей ДНК? Сколько мусора в нашей ДНК?

Какие «призраки» живут на «кладбищах геномов», и сколько мусора в нашей ДНК?

Популярная механика
Конфуз года: Боня, Бузова и другие звезды, которые попались на фотошопе в 2021-м Конфуз года: Боня, Бузова и другие звезды, которые попались на фотошопе в 2021-м

Кого из российских звезд подписчики уличили в фотошопе

Cosmopolitan
Тепловую индуктивность создали при комнатной температуре Тепловую индуктивность создали при комнатной температуре

Физики изучили тепловую индуктивность при комнатной температуре

N+1
Вася и Валя, или Когда психолог может помочь влюбленным не проворонить свое счастье Вася и Валя, или Когда психолог может помочь влюбленным не проворонить свое счастье

Как специалист может помочь развеять связанных с прошлым химер?

СНОБ
На все четыре стороны: как утекают ваши персональные данные На все четыре стороны: как утекают ваши персональные данные

Для чего вы указываете дату рождения и электронный адрес на сайтах?

Популярная механика
Резонансы Фешбаха увидели в атомно-ионной смеси Резонансы Фешбаха увидели в атомно-ионной смеси

Физикам удалось увидеть формирование резонансов Фешбаха

N+1
«What the fuck is going on? Вот в чем вопрос!» «What the fuck is going on? Вот в чем вопрос!»

Художник Дэмиен Хёрст о реальности и иллюзии, об искусстве и не-искусстве

Weekend
Взяли Казань Взяли Казань

Как богатейшие люди Татарстана согласились на партнерство

Forbes
Ноутбук из Антарктиды и полярный интернет: техника исследовательских станций Ноутбук из Антарктиды и полярный интернет: техника исследовательских станций

Как устроена связь Антарктиды с другими материками и зачем туда летают сисадмины

Популярная механика
80 м² 80 м²

Смелый дизайн в проекте Дарьи Васильковой и ее бюро Art Group.

AD
Даня Милохин — Forbes: «Я изменился. Стал паинькой, спортсменом и зожником» Даня Милохин — Forbes: «Я изменился. Стал паинькой, спортсменом и зожником»

Даня Милохин о том, кто следит за его деньгами и почему он бросил техникум

Forbes
Открыть в приложении