GPT-3 научили нейросеть собирать информацию из разных источников

N+1Hi-Tech

GPT-3 научили искать ответы в интернете и подкреплять их ссылками на источники

Григорий Копиев

OpenAI

Разработчики из OpenAI научили нейросеть GPT-3 отвечать на вопросы так, как это часто делают люди: спрашивая у поисковика, собирая информацию из нескольких источников и давая в итоговом тексте ссылки на них. Исследование показало, что ответы такой нейросети нравятся людям больше, чем лучшие ответы на те же вопросы на Reddit. Краткое описание и интерактивные примеры опубликованы на сайте OpenAI, там же доступна статья с подробностями обучения и тестирования.

В 2017 году исследователи из Google представили архитектуру нейросетей, которую назвали трансформером. Ее ключевой особенностью стала реализация механизма внимания, позволяющая нейросети учитывать все слова в даваемом ей предложении и понимать их важность. Затем исследователи из OpenAI создали на ее основе нейросеть GPT и два ее преемника (GPT-2 и GPT-3), последний из которых научился генерировать тексты, которые часто сложно отличить от написанных человеком. Как и в случае с дипфейками, это вызвало в научном сообществе дискуссии о том, какие опасности несет в себе такая технология. В частности, из-за особенностей работы генеративные нейросети могут создавать правдоподобный, но ложный с точки зрения фактов текст.

Исследователи из OpenAI решили сделать GPT-3 более «прозрачной» и научили ее не только генерировать ответы, но и приводить ссылки на источники. Они создали для GPT-3 интерактивную среду — фактически текстовый браузер, работающий через API поисковика Bing. Среда показывает результаты выдачи по поисковому запросу с заголовками и абзацем текста, а также позволяет открыть нужную ссылку, пролистать страницу

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Иллюзия сознания и реальность игры Иллюзия сознания и реальность игры

Книги: очередная биография Эйнштейна и исследование эмоций

N+1
Что такое либидо и как его повысить Что такое либидо и как его повысить

Вокруг понятия либидо почти всегда возникают споры

РБК
Столкновение умов: как не проиграть конкуренцию в борьбе за лидерство в области ИИ Столкновение умов: как не проиграть конкуренцию в борьбе за лидерство в области ИИ

Как на самом деле развивается ИИ в России?

Forbes
Смерть всерьез: 9 реальных трагедий на съемочной площадке Смерть всерьез: 9 реальных трагедий на съемочной площадке

Трагические истории, произошедшие прямо на съемках

Cosmopolitan
Нехимические зависимости: что это такое, как их распознать и победить Нехимические зависимости: что это такое, как их распознать и победить

Вы просыпаетесь и сразу тянетесь к телефону?

Maxim
30 м² 30 м²

“Инстаграмный” интерьер, который будет эффектно выглядеть и привлекать туристов

AD
«Прочувствовать это должен каждый»: партнерские роды глазами мужчин «Прочувствовать это должен каждый»: партнерские роды глазами мужчин

Женщины все чаще хотят рожать вместе с мужьями. А что думают об этом мужчины?

Psychologies
«Сначала лучше, потом дешевле. Сначала доходы, потом расходы» «Сначала лучше, потом дешевле. Сначала доходы, потом расходы»

Интервью руководителя ВТБ Private Banking Дмитрия Брейтенбихера

Forbes
Детали новых российских ракет будут смешивать Детали новых российских ракет будут смешивать

Перспективные ракеты собирают с помощью новой технологии сварки

Популярная механика
В плену антиутопий В плену антиутопий

Настоящая битва экосистем развернулась между «Яндексом» и «Сбером»

Forbes
Выкидыш из-за скандала: охранник роддома выгнал истекающую кровью беременную Выкидыш из-за скандала: охранник роддома выгнал истекающую кровью беременную

Уроженка Обнинска Калужской области потеряла ребенка на 4-й неделе беременности

Cosmopolitan
«Садись, пять!» Что такое синдром отличника и как от него избавиться «Садись, пять!» Что такое синдром отличника и как от него избавиться

Но всегда ли нужно быть самым лучшим? Что делать, если это начинает мешать?

РБК
Канарский вулкан Кумбре-Вьеха заподозрили в нетипичном поведении Канарский вулкан Кумбре-Вьеха заподозрили в нетипичном поведении

Режим функционирования вулкана повлияет на оценку будущих рисков от извержений

N+1
Бритни Спирс Бритни Спирс

Правила жизни Бритни Спирс

Esquire
Ихтиозавры достигли размеров современных китов всего за два с половиной миллиона лет Ихтиозавры достигли размеров современных китов всего за два с половиной миллиона лет

Сколько лет потребовалось ихтиозаврам, чтобы превратить в гигантов?

N+1
Шиповки или липучки: на что обратить внимание при выборе зимней резины Шиповки или липучки: на что обратить внимание при выборе зимней резины

Главная функция шипов — очень важной детали шипованных зимних шин

Популярная механика
Преимущество грамотных: почему русскому языку не нужна реформа, но нужен новый свод Преимущество грамотных: почему русскому языку не нужна реформа, но нужен новый свод

Что на самом деле стоит за новым сводом правил в русском языке

Forbes
Ритуал викингов «Кровавый орёл» был анатомически возможен Ритуал викингов «Кровавый орёл» был анатомически возможен

«Кровавый орёл» — выдумка или реально существовавший ритуал?

Популярная механика
Миром правят деньги: 9 фильмов про миллионеров, которые стоит посмотреть Миром правят деньги: 9 фильмов про миллионеров, которые стоит посмотреть

Герои этих фильмов вызывают зависть, мотивируют, возмущают

Playboy
Наука побеждать Наука побеждать

По требованию Сталина сняли целый цикл картин про русских военачальников

Дилетант
Дом, который умеет плавать Дом, который умеет плавать

Почему так сложно переехать на сушу после хаусбота

Отдых в России
Откровенно говоря Откровенно говоря

Рози Хантингтон-Уайтли развеяла миф о том, что нижнее белье стоит скрывать

Grazia
Шарик бриллиантовый, ваш! Шарик бриллиантовый, ваш!

Свяжите ёлочные шары, и других таких не будет ни у кого!

Наука и жизнь
Евгеника в прошлом, настоящем и будущем Евгеника в прошлом, настоящем и будущем

Что изучает евгеника и существует ли она сейчас?

Популярная механика
Омлет с сахаром Омлет с сахаром

Открываем французскую литературу для детей

Seasons of life
Самое большое летающее животное на Земле могло прыгать больше чем на два метра в высоту Самое большое летающее животное на Земле могло прыгать больше чем на два метра в высоту

Как именно кетцалькоатлю удавалось летать?

Популярная механика
Корона была ужасная, принцесса была прекрасная Корона была ужасная, принцесса была прекрасная

«Спенсер» Пабло Ларраина: леди Ди тошнит от Виндзоров

Weekend
Зеленая энергетика или «энергетический разворот» к солнцу? Зеленая энергетика или «энергетический разворот» к солнцу?

Солнечный свет как возобновляемый источник энергии

Популярная механика
5 самых дорогих разводов миллиардеров в истории 5 самых дорогих разводов миллиардеров в истории

Какие миллиардеры при разводе расстались со значительными активами

Forbes
Вещи на века Вещи на века

«Дедушкин» пиджак и стоптанные ботинки – апофеоз аристократизма!

Playboy
Открыть в приложении