Мировые тренды, которые со временем окажут влияние и на нашу жизнь

СНОБHi-Tech

Куда нас приведут нейросети

В последние годы в России развитию сферы искусственного интеллекта уделялось немало внимания. Сейчас сложно говорить о том, что будет в стране дальше, но нельзя упускать из виду мировые тренды, которые со временем окажут влияние и на нашу жизнь. О происходящем в науке рассказывает NLP-инженер и исследователь Иван Ильин

tekst.jpg
Иллюстрация: Дарья Орлова

Natural Language Understanding

Область понимания естественного языка находится на переднем крае создания сильного искусственного интеллекта. Ведь язык — это основная система передачи информации от человека к человеку. От современных языковых нейросетей ждут умения делать логические выводы как подтверждения способности к «мышлению».

Гигантские языковые модели, обученные на терабайтах текстовых данных, по-прежнему в трендах мировых компаний. Недавно Facebook* представила OPT-2, Google — PaLM, DeepMind — Gopher и RETRO, Nvidia — Megatron, OpenAI — обновила GPT-3 и выпустила Codex.

За счет увеличения числа параметров и обучения на огромных массивах данных нейросети стали демонстрировать возможность few-shot-обучения. Это способность буквально за пару тренировочных кейсов «по аналогии» решать математические задачи, выдавать ответы на реплики, продолжать повествование и вести диалог.

Обновленная модель GPT-3 от OpenAI теперь умеет редактировать и делать вставки в текст, а не только продолжать его. Поэтому новую версию можно использовать для рерайта, чтобы ускорить работу редакторов. Модель Codex (аналог GPT-3, обученная вместо текста на коде) может генерировать синтаксически корректный и функциональный код по описанию функций комментариями, ускоряя работу программиста. Генерация кода на основе этой модели уже успешно применяется в сервисе GitHub Copilot.

Следующий тренд — инъекция в языковые модели знаний об устройстве окружающего мира с помощью «Википедии» или графов знаний (создание своеобразной «памяти»), что позволило бы им при ответах на вопросы использовать не только контекст и данные из обучающей выборки, но и иметь прямой доступ к фактологической информации. Один из таких примеров — RETRO от DeepMind.

Гигантские языковые модели по-прежнему вотчина глобальных корпораций и их лабораторий, так как для обучения требуются огромные вычислительные ресурсы, высокопрофессиональные инженеры и исследователи в области машинного обучения.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Первопроходцы и хранители: как профессор Геодакян нашел пушечное мясо для эволюции Первопроходцы и хранители: как профессор Геодакян нашел пушечное мясо для эволюции

Зачем природе нужны самцы и почему она при этом совсем их не бережет

СНОБ
Как защитить отношения от последствий финансового кризиса: 5 шагов Как защитить отношения от последствий финансового кризиса: 5 шагов

Как сохранить гармоничные отношения на фоне кризиса

Psychologies
Специалисты по айсбергам: кто управляет рисками в IT и сколько за это платят Специалисты по айсбергам: кто управляет рисками в IT и сколько за это платят

IT-рисковик — что за специалист?

ТехИнсайдер
Колыбель кино Колыбель кино

Интерьер привлекает ярким решением в стиле контемпорари

Идеи Вашего Дома
Как сейчас выглядит волшебник Дэвид Копперфильд, которым все восхищались, а потом возненавидели из-за секс-скандала Как сейчас выглядит волшебник Дэвид Копперфильд, которым все восхищались, а потом возненавидели из-за секс-скандала

Что сейчас происходит с Дэвидом Копперфильдом

VOICE
Ученые установили, как Ученые установили, как

Зомби-клетки — это клетки, которые продолжают жить, но уже не могут делиться

ТехИнсайдер
Пенсионный фонд: топ-5 невероятных собак-долгожителей, которые бьют абсолютно все рекорды Пенсионный фонд: топ-5 невероятных собак-долгожителей, которые бьют абсолютно все рекорды

Этим хозяевам все таки повезло провести со своим питомцем не один десяток лет

ТехИнсайдер
Галоскоп ORGAN не нашел аксионов массой от 63 до 67 микроэлектронвольт Галоскоп ORGAN не нашел аксионов массой от 63 до 67 микроэлектронвольт

Физики отчитались о первой фазе работы эксперимента ORGAN

N+1
Группа «Созвездие Отрезок» — о новом альбоме и концертной площадке мечты Группа «Созвездие Отрезок» — о новом альбоме и концертной площадке мечты

Группа «Созвездие Отрезок» — почему им так важны безумные костюмы

РБК
Не включается монитор: причины и способы решения проблемы Не включается монитор: причины и способы решения проблемы

Часто проблемы с монитором решаются за считанные минуты

CHIP
Победа в своем времени Победа в своем времени

Жизненные стратегии гуманитариев эпохи застоя

Weekend
Уральская волчица: история самой жестокой женщины-убийцы в России Уральская волчица: история самой жестокой женщины-убийцы в России

«Я даже не могу назвать ее женщиной, для меня она безлика»

VOICE
Потеют, шелушатся, немеют: диагнозы, которые можно поставить по ладоням Потеют, шелушатся, немеют: диагнозы, которые можно поставить по ладоням

Врач «прочитает» твои кисти рук не хуже профессионального хироманта

Maxim
Поэт и инвалид Поэт и инвалид

Игорь Гулин об Алике Ривине, эксцентрике и пророке блокады

Weekend
1200 км за 8 дней: туристический маршрут по Сибири – путешествие, которые ты точно не забудешь 1200 км за 8 дней: туристический маршрут по Сибири – путешествие, которые ты точно не забудешь

Как за одну поездку посетить Красноярский край, Хакасию и Тыву

VOICE
Пляжное чтение: 10 идеальных книг для отпуска Пляжное чтение: 10 идеальных книг для отпуска

Отпуск — лучшее время для чтения

СНОБ
Скачок лягушки и духи инноваций: как вести бизнес в Африке Скачок лягушки и духи инноваций: как вести бизнес в Африке

В чем специфика работы в Африке?

Forbes
Лето роботов: как умные машины окружили человека и почему мы этого не заметили Лето роботов: как умные машины окружили человека и почему мы этого не заметили

Роботизация быстро продолжается, без скачков, но уже необратимо изменив жизнь

Forbes
Встань и иди: как не «зависать» в бездействии Встань и иди: как не «зависать» в бездействии

Что делать, как, когда, для чего и какими средствами? Будем искать ответы!

Psychologies
Реабилитация кооперации Реабилитация кооперации

Кооперация — полезный инструмент для объединения фермеров или российская утопия?

Агроинвестор
Половые секреты 17-й хромосомы Половые секреты 17-й хромосомы

Почему Y-хромосома имеет дутую репутацию?

СНОБ
Стоя на своём Стоя на своём

Что даёт человеку стояние на гвоздях?

Robb Report
Галактическое излучение: что случится с телом человека, если он столкнется с космической радиацией Галактическое излучение: что случится с телом человека, если он столкнется с космической радиацией

Космос враждебен жизни, нас там не ждут.

ТехИнсайдер
Почему у поезда колеса металлические, а у автомобиля — резиновые Почему у поезда колеса металлические, а у автомобиля — резиновые

Почему у разных видов транспорта разные колеса

ТехИнсайдер
История одной вещи: подстаканники, без которых не обходится путешествие на поезде История одной вещи: подстаканники, без которых не обходится путешествие на поезде

Рассказываем вековую историю подстаканников

Правила жизни
История одной вещи: нелегкая судьба «Тетриса», за который боролись англичанин и японцы История одной вещи: нелегкая судьба «Тетриса», за который боролись англичанин и японцы

История тетриса — кинематографичная, тянущая на добротный шпионский фильм

Правила жизни
Олени погрызли кости морских черепах Олени погрызли кости морских черепах

Как травоядные восполняют нехватку минеральных веществ?

N+1
4 самых популярных способа обмана через Интернет 4 самых популярных способа обмана через Интернет

Делимся лайфхаками, как сохранить деньги, персональные данные и нервы

Maxim
Сюжет для небольшого романа Сюжет для небольшого романа

Судебную власть гений русской литературы Лев Толстой жаловал не очень

Дилетант
Так ли уж важны подушки безопасности? Так ли уж важны подушки безопасности?

Насколько небезопасны машины без аэрбегов?

Maxim
Открыть в приложении