Мировые тренды, которые со временем окажут влияние и на нашу жизнь

СНОБHi-Tech

Куда нас приведут нейросети

В последние годы в России развитию сферы искусственного интеллекта уделялось немало внимания. Сейчас сложно говорить о том, что будет в стране дальше, но нельзя упускать из виду мировые тренды, которые со временем окажут влияние и на нашу жизнь. О происходящем в науке рассказывает NLP-инженер и исследователь Иван Ильин

tekst.jpg
Иллюстрация: Дарья Орлова

Natural Language Understanding

Область понимания естественного языка находится на переднем крае создания сильного искусственного интеллекта. Ведь язык — это основная система передачи информации от человека к человеку. От современных языковых нейросетей ждут умения делать логические выводы как подтверждения способности к «мышлению».

Гигантские языковые модели, обученные на терабайтах текстовых данных, по-прежнему в трендах мировых компаний. Недавно Facebook* представила OPT-2, Google — PaLM, DeepMind — Gopher и RETRO, Nvidia — Megatron, OpenAI — обновила GPT-3 и выпустила Codex.

За счет увеличения числа параметров и обучения на огромных массивах данных нейросети стали демонстрировать возможность few-shot-обучения. Это способность буквально за пару тренировочных кейсов «по аналогии» решать математические задачи, выдавать ответы на реплики, продолжать повествование и вести диалог.

Обновленная модель GPT-3 от OpenAI теперь умеет редактировать и делать вставки в текст, а не только продолжать его. Поэтому новую версию можно использовать для рерайта, чтобы ускорить работу редакторов. Модель Codex (аналог GPT-3, обученная вместо текста на коде) может генерировать синтаксически корректный и функциональный код по описанию функций комментариями, ускоряя работу программиста. Генерация кода на основе этой модели уже успешно применяется в сервисе GitHub Copilot.

Следующий тренд — инъекция в языковые модели знаний об устройстве окружающего мира с помощью «Википедии» или графов знаний (создание своеобразной «памяти»), что позволило бы им при ответах на вопросы использовать не только контекст и данные из обучающей выборки, но и иметь прямой доступ к фактологической информации. Один из таких примеров — RETRO от DeepMind.

Гигантские языковые модели по-прежнему вотчина глобальных корпораций и их лабораторий, так как для обучения требуются огромные вычислительные ресурсы, высокопрофессиональные инженеры и исследователи в области машинного обучения.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Астрономы ищут в океане неизвестный объект, который, вероятно, прибыл из межзвездного пространства Астрономы ищут в океане неизвестный объект, который, вероятно, прибыл из межзвездного пространства

В 2014 году странный объект упал недалеко от побережья Папуа-Новой Гвинеи

ТехИнсайдер
Космические отели. Когда мы сможем провести отпуск на орбите Космические отели. Когда мы сможем провести отпуск на орбите

Космический туризм быстро развивается

ТехИнсайдер
Зачем в СССР создавали грандиозные дворцы питания, и почему они исчезли Зачем в СССР создавали грандиозные дворцы питания, и почему они исчезли

Фабрики-кухни, которые начали строить в СССР, быстро окрестили дворцами питания

VOICE
Станет ли в России меньше трудовых мигрантов и как нужно менять отношение к их труду Станет ли в России меньше трудовых мигрантов и как нужно менять отношение к их труду

Почему любой стране важно оставаться привлекательной для иммигрантов

Forbes
Андрей Шемякин, SEA Company — о маркетинговой упаковке брендов Андрей Шемякин, SEA Company — о маркетинговой упаковке брендов

Андрей Шемякин рассказал о маркетинговом позиционировании российских брендов

РБК
Погребенные заживо: леденящие кровь истории похороненных, но выживших Погребенные заживо: леденящие кровь истории похороненных, но выживших

Эти люди смотрели смерти в лицо, их жизнь уже не будет прежней

ТехИнсайдер
Координационный полимер помог разделить смесь изомерных ксилолов Координационный полимер помог разделить смесь изомерных ксилолов

Селективность адсорбции оказалась рекордной

N+1
Топ-10 бесплатных игр на ПК: популярные хиты, достойные вашего внимания Топ-10 бесплатных игр на ПК: популярные хиты, достойные вашего внимания

10 лучших бесплатных игр на любой вкус

CHIP
Почему полиаморные отношения подходят не всем: 3 причины Почему полиаморные отношения подходят не всем: 3 причины

С какими трудностями сталкиваются люди, отказавшиеся от моногамных отношений?

Psychologies
Как приложения и фальшивые клиники собирают медицинские данные и сообщают об абортах Как приложения и фальшивые клиники собирают медицинские данные и сообщают об абортах

Разбираемся, кто и как собирает и распространяет личную информацию

Forbes
13 полезных продуктов, в которых много цинка 13 полезных продуктов, в которых много цинка

Дефицит цинка может привести к выпадению волос и другим проблемам со здоровьем

Лиза
Эти 20 привычек точно сделают тебя счастливее! Эти 20 привычек точно сделают тебя счастливее!

Мелочи, которые сделают твою жизнь ярче

VOICE
Лазеры и рэкет: как основательница сети салонов красоты дважды начинала бизнес с нуля Лазеры и рэкет: как основательница сети салонов красоты дважды начинала бизнес с нуля

История Киры Долговой: дважды начинать с нуля и все равно заработать

Forbes
Как играют умершие актеры: что такое дипфейк Как играют умершие актеры: что такое дипфейк

Что такое дипфейки и насколько они могут быть опасны

Psychologies
«Пусть порвется»: почему стоит посмотреть сериал «Медведь» о молодом шеф-поваре «Пусть порвется»: почему стоит посмотреть сериал «Медведь» о молодом шеф-поваре

Как сериал «Медведь» полностью изменит ваше отношение к еде

Forbes
Проверенные факты о Бермудском треугольнике: что нам известно на самом деле Проверенные факты о Бермудском треугольнике: что нам известно на самом деле

Что на самом деле известно о Бермудском треугольнике?

ТехИнсайдер
Золотая середина Золотая середина

Интерьер, в котором сочетаются классические элементы и мотивы ар-деко

SALON-Interior
Китчен бук Китчен бук

Что такое система «буков» и как она помогает в работе ресторана?

Bones
Хоррор на даче Хоррор на даче

Как не подхватить паразитов летом за городом

Лиза
Что такое материнский инстинкт и почему у людей его, скорее всего, нет Что такое материнский инстинкт и почему у людей его, скорее всего, нет

Материнский инстинкт: в чем он проявляется и почему его нет у людей?

ТехИнсайдер
Долой влажную уборку! Профессиональный клинер открыл секрет идеальной чистоты без воды Долой влажную уборку! Профессиональный клинер открыл секрет идеальной чистоты без воды

Как добиться идеальной чистоты дома с помощью сухой уборки

VOICE
Настоящая мужская заготовка: как сделать вино из черной смородины Настоящая мужская заготовка: как сделать вино из черной смородины

Совершенно гениальный, проверенный дедовский рецепт вина из черной смородины

Maxim
Как создать стикеры в Телеграме: пошаговая инструкция Как создать стикеры в Телеграме: пошаговая инструкция

Рассказываем, как сделать стикеры в Телеграме и поделиться своим стикерпаком

CHIP
Постотпускной синдром: 4 совета, как не уволиться сразу после отдыха Постотпускной синдром: 4 совета, как не уволиться сразу после отдыха

Как снизить уровень постотпускной тоскливости и настроиться на рабочий лад

Psychologies
Cherchez la femme Cherchez la femme

Почему индустрия еды находится в крепких мужских руках

Bones
Первая вдова СССР Первая вдова СССР

Крупская занималась вопросами коммунистического воспитания и образования

Дилетант
Настольная книга идеального тренировочного партнера Настольная книга идеального тренировочного партнера

Какого напарника искать и как самому стать тем, кто раскроет силу в других

Men Today
5 самых диких убийц Дикого Запада 5 самых диких убийц Дикого Запада

Самые кровожадные типы, которые прославились своей жестокостью на Диком Западе

Maxim
Беззаботное детство советских детей: во что играли во дворах СССР? Беззаботное детство советских детей: во что играли во дворах СССР?

Все резиночки, классики, вышибалы остались в нашем детстве СССР

ТехИнсайдер
Скачок лягушки и духи инноваций: как вести бизнес в Африке Скачок лягушки и духи инноваций: как вести бизнес в Африке

В чем специфика работы в Африке?

Forbes
Открыть в приложении