Мировые тренды, которые со временем окажут влияние и на нашу жизнь

СНОБHi-Tech

Куда нас приведут нейросети

В последние годы в России развитию сферы искусственного интеллекта уделялось немало внимания. Сейчас сложно говорить о том, что будет в стране дальше, но нельзя упускать из виду мировые тренды, которые со временем окажут влияние и на нашу жизнь. О происходящем в науке рассказывает NLP-инженер и исследователь Иван Ильин

tekst.jpg
Иллюстрация: Дарья Орлова

Natural Language Understanding

Область понимания естественного языка находится на переднем крае создания сильного искусственного интеллекта. Ведь язык — это основная система передачи информации от человека к человеку. От современных языковых нейросетей ждут умения делать логические выводы как подтверждения способности к «мышлению».

Гигантские языковые модели, обученные на терабайтах текстовых данных, по-прежнему в трендах мировых компаний. Недавно Facebook* представила OPT-2, Google — PaLM, DeepMind — Gopher и RETRO, Nvidia — Megatron, OpenAI — обновила GPT-3 и выпустила Codex.

За счет увеличения числа параметров и обучения на огромных массивах данных нейросети стали демонстрировать возможность few-shot-обучения. Это способность буквально за пару тренировочных кейсов «по аналогии» решать математические задачи, выдавать ответы на реплики, продолжать повествование и вести диалог.

Обновленная модель GPT-3 от OpenAI теперь умеет редактировать и делать вставки в текст, а не только продолжать его. Поэтому новую версию можно использовать для рерайта, чтобы ускорить работу редакторов. Модель Codex (аналог GPT-3, обученная вместо текста на коде) может генерировать синтаксически корректный и функциональный код по описанию функций комментариями, ускоряя работу программиста. Генерация кода на основе этой модели уже успешно применяется в сервисе GitHub Copilot.

Следующий тренд — инъекция в языковые модели знаний об устройстве окружающего мира с помощью «Википедии» или графов знаний (создание своеобразной «памяти»), что позволило бы им при ответах на вопросы использовать не только контекст и данные из обучающей выборки, но и иметь прямой доступ к фактологической информации. Один из таких примеров — RETRO от DeepMind.

Гигантские языковые модели по-прежнему вотчина глобальных корпораций и их лабораторий, так как для обучения требуются огромные вычислительные ресурсы, высокопрофессиональные инженеры и исследователи в области машинного обучения.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Астрономы ищут в океане неизвестный объект, который, вероятно, прибыл из межзвездного пространства Астрономы ищут в океане неизвестный объект, который, вероятно, прибыл из межзвездного пространства

В 2014 году странный объект упал недалеко от побережья Папуа-Новой Гвинеи

ТехИнсайдер
«Шаббат возвращает меня к жизни» «Шаббат возвращает меня к жизни»

Двадцать четыре часа без работы и суеты, без гонки и спешки

Psychologies
Носки и лодыжки: Брэд Питт, Вин Дизель и другие мужчины-звезды, которые роскошно выглядят в юбках Носки и лодыжки: Брэд Питт, Вин Дизель и другие мужчины-звезды, которые роскошно выглядят в юбках

Мода давно вышла за грани гендерных стереотипов

VOICE
Лучший бесплатный антивирус: наша большая подборка Лучший бесплатный антивирус: наша большая подборка

На рынке представлено немало достойных бесплатных антивирусов. Вот лучшие из них

CHIP
Отрывок из романа «Алиса в русском Зазеркалье. Последняя императрица России: взгляд из современности» Отрывок из романа «Алиса в русском Зазеркалье. Последняя императрица России: взгляд из современности»

Отрывок из романа-диалога о приключении немецкой принцессы Алисы

СНОБ
Как сериал «Мисс Марвел» раскрывает силу женщины через ее культурное наследие Как сериал «Мисс Марвел» раскрывает силу женщины через ее культурное наследие

Мисс Марвел — первая супергероиня пакистанского происхождения

Forbes
Человек всегда шире концепций: придет ли work-life blend на смену work-life balance Человек всегда шире концепций: придет ли work-life blend на смену work-life balance

Почему концепции не способны сделать работающего человека безусловно счастливым

Forbes
Лори не запишут в Черную книгу: как жители крошечного острова пытаются спасти вымирающих попугаев Лори не запишут в Черную книгу: как жители крошечного острова пытаются спасти вымирающих попугаев

Попугаи лори сегодня находятся на грани исчезновения

ТехИнсайдер
Хатха-йога: польза, вред и 7 упражнений для новичков Хатха-йога: польза, вред и 7 упражнений для новичков

Люди веками используют различные направления йоги для поддержания здоровья

РБК
Разлад по-хорошему: 35 правил ссоры, которая не приведет к расставанию Разлад по-хорошему: 35 правил ссоры, которая не приведет к расставанию

Добрая ссора бывает получше худого мира

VOICE
Как правильно переживать жару: 8 лайфхаков от врача Как правильно переживать жару: 8 лайфхаков от врача

8 советов, ĸоторые помогут безопасно пережить жарĸое время

Psychologies
Укачивание Укачивание

Как побороть укачивание?

Здоровье
Как превратить «Ниву» в быстрый и удобный внедорожник Как превратить «Ниву» в быстрый и удобный внедорожник

Как сделать из внедорожника 1977 года современную машину

Maxim
Японские однопокровницы отрастили удочки для привлечения опылителей Японские однопокровницы отрастили удочки для привлечения опылителей

Один из видов однопокровниц привлекает грибных комаров с помощью отростка

N+1
Мужской характер Мужской характер

В наполненном интересными деталями интерьере ощущается умеренная брутальность

Идеи Вашего Дома
4 самых популярных способа обмана через Интернет 4 самых популярных способа обмана через Интернет

Делимся лайфхаками, как сохранить деньги, персональные данные и нервы

Maxim
Крысы опылили фейхоа Крысы опылили фейхоа

Грызуны и деревья перешли к взаимовыгодному сотрудничеству

N+1
Вопрос психологу: что такое синдром отложенной жизни и как с ним справиться? Вопрос психологу: что такое синдром отложенной жизни и как с ним справиться?

Ловили ли вы себя на мысли, что ожидаете лучших времен?

Правила жизни
6 моментов в сериале «Оби-Ван Кеноби», которые упустили 99% зрителей 6 моментов в сериале «Оби-Ван Кеноби», которые упустили 99% зрителей

Лишь только настоящие фанаты «Звездных войн» способны их заметить!

Maxim
7 мифов о похудении, в которые пора перестать верить навсегда 7 мифов о похудении, в которые пора перестать верить навсегда

Мифы о похудении, которые только вредят

ТехИнсайдер
«Душечка» хорошего питания «Душечка» хорошего питания

Геня Фейгенберг мало чем отличалась от многих своих современниц

Дилетант
Мифы об удачных свиданиях Мифы об удачных свиданиях

Какие мифы о свиданиях мешают нам, а не помогают

Psychologies
Белое вино в прозрачной бутылке быстрее потеряло аромат Белое вино в прозрачной бутылке быстрее потеряло аромат

Как влияет на белое вино длительное хранение на полке магазина

N+1
Жёны застоя Жёны застоя

Супруги генсеков и членов политбюро ЦК КПСС

Дилетант
Планетологи нашли в древней истории Марса взрывное извержение кислой магмы Планетологи нашли в древней истории Марса взрывное извержение кислой магмы

Ученые промоделировали образование комплекса минералов, найденного марсоходом

N+1
Как филлеры меняют лицо и сохраняют молодость Как филлеры меняют лицо и сохраняют молодость

Как и зачем применяют филлеры?

РБК
Боди-хоррор: что это такое и самые страшные современные фильмы этого жанра Боди-хоррор: что это такое и самые страшные современные фильмы этого жанра

Страшилки, где с человеческим телом происходит что-то нехорошее

Maxim
7 признаков, которые выдают псевдоинтеллектуала 7 признаков, которые выдают псевдоинтеллектуала

Как вывести на чистую воду тех, кто привык казаться, а не быть

Maxim
5 самых аллергенных алкогольных напитков 5 самых аллергенных алкогольных напитков

Как отличить последствия веселого загула от аллергических реакций на алкоголь?

Maxim
Как сделать держатель для смартфона: 10 вариантов подставок своими руками Как сделать держатель для смартфона: 10 вариантов подставок своими руками

Подставка для смартфона нужна не всегда, но когда понадобится — её можно сделать

ТехИнсайдер
Открыть в приложении