Мировые тренды, которые со временем окажут влияние и на нашу жизнь

СНОБHi-Tech

Куда нас приведут нейросети

В последние годы в России развитию сферы искусственного интеллекта уделялось немало внимания. Сейчас сложно говорить о том, что будет в стране дальше, но нельзя упускать из виду мировые тренды, которые со временем окажут влияние и на нашу жизнь. О происходящем в науке рассказывает NLP-инженер и исследователь Иван Ильин

tekst.jpg
Иллюстрация: Дарья Орлова

Natural Language Understanding

Область понимания естественного языка находится на переднем крае создания сильного искусственного интеллекта. Ведь язык — это основная система передачи информации от человека к человеку. От современных языковых нейросетей ждут умения делать логические выводы как подтверждения способности к «мышлению».

Гигантские языковые модели, обученные на терабайтах текстовых данных, по-прежнему в трендах мировых компаний. Недавно Facebook* представила OPT-2, Google — PaLM, DeepMind — Gopher и RETRO, Nvidia — Megatron, OpenAI — обновила GPT-3 и выпустила Codex.

За счет увеличения числа параметров и обучения на огромных массивах данных нейросети стали демонстрировать возможность few-shot-обучения. Это способность буквально за пару тренировочных кейсов «по аналогии» решать математические задачи, выдавать ответы на реплики, продолжать повествование и вести диалог.

Обновленная модель GPT-3 от OpenAI теперь умеет редактировать и делать вставки в текст, а не только продолжать его. Поэтому новую версию можно использовать для рерайта, чтобы ускорить работу редакторов. Модель Codex (аналог GPT-3, обученная вместо текста на коде) может генерировать синтаксически корректный и функциональный код по описанию функций комментариями, ускоряя работу программиста. Генерация кода на основе этой модели уже успешно применяется в сервисе GitHub Copilot.

Следующий тренд — инъекция в языковые модели знаний об устройстве окружающего мира с помощью «Википедии» или графов знаний (создание своеобразной «памяти»), что позволило бы им при ответах на вопросы использовать не только контекст и данные из обучающей выборки, но и иметь прямой доступ к фактологической информации. Один из таких примеров — RETRO от DeepMind.

Гигантские языковые модели по-прежнему вотчина глобальных корпораций и их лабораторий, так как для обучения требуются огромные вычислительные ресурсы, высокопрофессиональные инженеры и исследователи в области машинного обучения.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Астрономы ищут в океане неизвестный объект, который, вероятно, прибыл из межзвездного пространства Астрономы ищут в океане неизвестный объект, который, вероятно, прибыл из межзвездного пространства

В 2014 году странный объект упал недалеко от побережья Папуа-Новой Гвинеи

ТехИнсайдер
Дамплинги Дамплинги

Вроде бы те же пельмени, но распахивают двери в мир гастрономических фантазий

Bones
Мозг без вас решает стоит ли браться за выгодное дело, если оно принесет боль Мозг без вас решает стоит ли браться за выгодное дело, если оно принесет боль

Полосатое тело виновато в том, что мы прокрастинируем

ТехИнсайдер
Убийцы боялись сидеть с ним в одной камере: история Балашихинского потрошителя Убийцы боялись сидеть с ним в одной камере: история Балашихинского потрошителя

Балашихинский потрошитель пугал не только женщин и детей

VOICE
IQ Boost: 5 книг, которые помогут развить креативные способности и прокачать мышление IQ Boost: 5 книг, которые помогут развить креативные способности и прокачать мышление

Не только дизайнерам или музыкантам полезно развивать креативное мышление

Maxim
Тип фигуры: как определить свой и как правильно подобрать гардероб Тип фигуры: как определить свой и как правильно подобрать гардероб

Как скрыть ненужное и подчеркнуть достоинства в соответствии с типом фигуры?

РБК
Дуглас МакМастер: «Популярность концепции zero waste будет только расти» Дуглас МакМастер: «Популярность концепции zero waste будет только расти»

Дуглас МакМастер — о концепции zero waste и принципах работы без мусорного ведра

Bones
Встань и иди: как не «зависать» в бездействии Встань и иди: как не «зависать» в бездействии

Что делать, как, когда, для чего и какими средствами? Будем искать ответы!

Psychologies
Совместное проживание с партнером: как подготовиться Совместное проживание с партнером: как подготовиться

Как правильно подготовиться к важному этапу совместного проживания?

Psychologies
Почему мы не любим себя на фото Почему мы не любим себя на фото

«Улыбнитесь!» — и нас в ту же секунду сковывает напряжение

Psychologies
Ухо, зубы, сон Ухо, зубы, сон

«Уховертка»: боди-хоррор в декорациях межвоенной Европы

Weekend
Краткая история наготы Краткая история наготы

Как менялось отношение человечества к обнаженному телу

Правила жизни
«Психологическая кастрация»: как женщина убивает в мужчине мужчину «Психологическая кастрация»: как женщина убивает в мужчине мужчину

Что чаще всего психологи подразумевают под фразой «убить в мужчине мужчину»?

Psychologies
Как долго не кончать: правители, которые дольше всех остаются у власти Как долго не кончать: правители, которые дольше всех остаются у власти

Настоящие гаранты стабильности, которые до сих пор у руля в своих странах!

Maxim
«Бирюзовая» помощь: как НКО переходят на самоуправление и кому это выгодно «Бирюзовая» помощь: как НКО переходят на самоуправление и кому это выгодно

Как российские фонды становятся «бирюзовыми»?

Forbes
Кожа и стресс: волнительный момент Кожа и стресс: волнительный момент

Хронический стресс пагубно сказывается на коже, но как ей помочь?

Лиза
Как правильно ухаживать за кутикулой. Советы эксперта Как правильно ухаживать за кутикулой. Советы эксперта

Зачем нужно следить не только за ногтевой пластиной, но и кожей вокруг нее

РБК
Диета, обогнавшая по популярности кето: что такое FMD и кому она подойдет Диета, обогнавшая по популярности кето: что такое FMD и кому она подойдет

Что такое Fast Mimicking Diet, «диета, имитирующая голодание».

VOICE
Законы социальных систем: что общего у семьи и рабочего коллектива? Законы социальных систем: что общего у семьи и рабочего коллектива?

Что объединяет новоиспеченного мужа и только что принятого на работу сотрудника?

Psychologies
Вы точно такого не знали: 5 русских слов, значение которых со временем Вы точно такого не знали: 5 русских слов, значение которых со временем

Слова, которые есть в современном языке, раньше имели совершенно другой смысл

ТехИнсайдер
Легко и просто Легко и просто

10 лучших упражнений для людей с лишним весом

Лиза
10 самых жутких видеоигр за всю историю индустрии 10 самых жутких видеоигр за всю историю индустрии

Жуткие видеоигры, которые заставят вас по-настоящему испугаться

ТехИнсайдер
Синдром самозванца: есть ли он у тебя и как его побороть Синдром самозванца: есть ли он у тебя и как его побороть

Откуда берется синдром самозванца, мешающий жить и работать

Maxim
«Невозможность второго рода»: Явление квазикристаллов. «Невозможность второго рода»: Явление квазикристаллов.

Однако открытие того, что квазикристаллы — это реальность было подобно вспышке

N+1
7 лучших (и худших) фильмов о хакерах 7 лучших (и худших) фильмов о хакерах

Самые интересные и весьма нелепые картины о хакерах всех времен

ТехИнсайдер
Что такое агрессивное умиление Что такое агрессивное умиление

Признайтесь, вам хотелось задушить в объятиях хорошенького ребенка или питомца

Psychologies
Критикуй вовремя: как твердо высказать свое мнение, никого не обидев Критикуй вовремя: как твердо высказать свое мнение, никого не обидев

Как корректно говорить правду и высказывать свое мнение?

VOICE
Не надевайте шорты и пейте больше кофе: что нужно для успеха на индийском рынке Не надевайте шорты и пейте больше кофе: что нужно для успеха на индийском рынке

Поиск инвесторов и тестирование гипотез на индийском рынке

Forbes
Леопард в мире ящериц: в Индии открыли геккона, который использует язык как орган осязания Леопард в мире ящериц: в Индии открыли геккона, который использует язык как орган осязания

Исследователи обнаружили новый вид леопардового геккона

Вокруг света
10 признаков того, что ты психологически стабилен 10 признаков того, что ты психологически стабилен

Список, по которому можно определить — ты уже на пределе, или еще вывозишь

Maxim
Открыть в приложении